悪用・社会への影響とAIガバナンスの一問一答

ディープラーニングなどを用いて、実在の人物が実際には言っていないことを話しているように見せる動画や音声を作る技術や、その生成物を指す言葉として、最も適切なものを1つ選びなさい。

• ①フィルターバブル
• ②エコーチェンバー
• ③ディープフェイク
• ④コールドスタート

SNSや検索サービスで、アルゴリズムが利用者の好みに合った情報ばかりを表示することで、利用者が自分と異なる意見や情報に触れにくくなる現象として、最も適切なものを1つ選びなさい。

• ①ディープフェイク
• ②モード崩壊
• ③勾配消失
• ④フィルターバブル

人間の判断を介さずに、AIが自律的に攻撃の対象を選び、殺傷を行う兵器として、国際的に規制の議論が行われているものとして、最も適切なものを1つ選びなさい。

• ①自律型致死兵器システム（LAWS）
• ②エキスパートシステム
• ③レコメンドシステム
• ④エッジAI

大規模なAIのモデルの学習や運用が環境に与える影響についての説明として、最も適切なものを1つ選びなさい。

• ①電力を多く使うのは学習の時だけで、公開後の推論は電力をほとんど使わないため考慮しなくてよい。
• ②大量の計算で多くの電力を消費するため、エネルギーや温室効果ガスの面での配慮が求められる。
• ③大規模なモデルほど必ず消費電力が少なくなるため、モデルを大きくするほど環境に優しくなる。
• ④環境への負荷は電力に限られるため、データセンターが水資源に与える影響は考えなくてよい。

AIの普及が雇用や働き方に与える影響についての説明として、最も適切なものを1つ選びなさい。

• ①AIによってなくなる仕事の数と新たに生まれる仕事の数は、同じになることが確実に分かっている。
• ②AIがどの仕事を代替するかは技術だけで決まり、企業の判断や社会の制度には左右されない。
• ③一部の業務がAIに置き換わる一方、新たな仕事も生まれうるため、学び直しの支援が重要になる。
• ④AIが仕事を代替するのは工場の単純作業だけで、事務や専門的な仕事には影響が及ばない。

技術や社会の変化が速いAIの分野で、ゴールを設定し、システムを設計・運用し、その結果を評価して、環境やリスクを分析し直すというサイクルを継続的に回す、経済産業省の指針などで示されたガバナンスの考え方として、最も適切なものを1つ選びなさい。

• ①ウォーターフォール型の開発
• ②ルールベースの管理
• ③トップダウン型の一括規制
• ④アジャイル・ガバナンス

米国国立標準技術研究所（NIST）が公表したAIのリスク管理の枠組み（AI RMF）の中核となる4つの機能の組み合わせとして、最も適切なものを1つ選びなさい。

• ①統治（Govern）・特定（Map）・測定（Measure）・管理（Manage）
• ②計画（Plan）・実行（Do）・評価（Check）・改善（Act）
• ③収集（Collect）・加工（Process）・学習（Train）・推論（Infer）
• ④発見（Discover）・購入（Buy）・販売（Sell）・廃棄（Dispose）

生成AIで作られた画像や動画について、誰がどのように作成・編集したかといった来歴の情報を付与し、確認できるようにする取り組みとして、最も適切なものを1つ選びなさい。

• ①データ拡張によるデータの水増し
• ②来歴情報（C2PAなど）の付与
• ③ドロップアウトによる過学習の防止
• ④勾配クリッピングによる学習の安定化

企業がAIを適切に開発・利用するための「AIガバナンス」の取り組みとして、最も不適切なものを1つ選びなさい。

• ①AIの利用に関する方針や社内の体制を定め、責任の所在を明確にする。
• ②AIのリスクを洗い出して評価し、その大きさに応じた対策を講じる。
• ③リスクがゼロと証明されるまで、AIの利用の検討自体を一切禁止する。
• ④社外の有識者や利用者などの意見も取り入れ、取り組みを継続的に見直す。

過去に、ある企業が公開した会話AIが、利用者との会話から学習した結果、差別的な発言をするようになり、短期間で公開を停止した事例がある。この事例から得られる教訓として、最も適切なものを1つ選びなさい。

• ①学習データの量が少なかったことが原因で、データを増やせば同じ問題は起こらなくなる。
• ②この問題は会話AIに特有のもので、利用者の行動から学ぶ推薦システムなどでは起こらない。
• ③会話AIは公開する前に一度だけ試験をすれば十分で、公開後に監視をする必要はまったくない。
• ④入力から学習するAIは、悪意ある入力で振る舞いがゆがみうるため、対策と監視が必要である。