2026年版・5-11

モデルの解釈性・軽量化の一問一答

G検定（ジェネラリスト検定）「ディープラーニングの応用例」から、モデルの解釈性・軽量化に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問）ディープラーニングの応用例の要点解説を読む

問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問15-11

CNNによる画像の分類で、モデルが画像のどの領域に注目して判断したかを、勾配の情報を用いてヒートマップとして可視化する手法として、最も適切なものを1つ選びなさい。

①LIME
②SHAP
③Grad-CAM
④CAM

答えと解説を見る

正解 ③Grad-CAM

解説
Grad-CAM（Gradient-weighted Class Activation Mapping）は、CNNによる画像の分類で、あるクラスの予測に対する勾配の情報を使って、最後の畳み込み層の特徴マップのどの部分がその判断に大きく影響したかを求め、画像の上にヒートマップとして重ねて表示する手法です。たとえば「犬」と判断したときに、犬の顔のあたりが強く色付けされれば、モデルが妥当な根拠で判断していると確認できます。モデルの判断の根拠を人が確かめるための、説明可能なAI（XAI）の代表的な手法です。

他の選択肢が不適切な理由
・LIME：予測を説明したいデータの周辺で、単純で解釈しやすいモデルを使って複雑なモデルの振る舞いを近似し、判断の根拠を説明する手法です。
・SHAP：協力ゲーム理論のシャープレイ値の考え方を用いて、各特徴量が予測にどれだけ貢献したかを求める手法です。
・CAM：Grad-CAMの前身となった手法で、Global Average Poolingを持つCNNの重みを使って注目領域を示します。勾配の情報は使わないため、本問の説明には当てはまりません。

覚え方のポイント
「Grad-CAM＝勾配（Grad）を使った、画像の注目領域のヒートマップ」。画像に特化した可視化の手法として、LIMEやSHAPと区別しましょう。

問25-11

協力ゲーム理論の考え方にもとづき、予測結果に対して各特徴量がどれだけ貢献したかを数値で求める、説明可能なAIの手法として、最も適切なものを1つ選びなさい。

①Grad-CAM
②LIME
③PFI（Permutation Feature Importance）
④SHAP

答えと解説を見る

正解 ④SHAP

解説
SHAP（SHapley Additive exPlanations）は、協力ゲーム理論の「シャープレイ値」の考え方を用いて、ある予測結果について、それぞれの特徴量がどれだけ貢献したかを数値で求める手法です。シャープレイ値は、複数のプレイヤーが協力して得た利益を、各プレイヤーの貢献度に応じて公平に分配する方法です。SHAPでは、特徴量をプレイヤーとみなし、予測値をどれだけ押し上げたか（押し下げたか）を求めます。たとえば「融資の審査で否決された理由は、年収の低さの影響が最も大きい」といった説明に使えます。

他の選択肢が不適切な理由
・Grad-CAM：CNNの勾配を使って、画像のどの領域に注目したかをヒートマップで示す手法です。
・LIME：説明したいデータの周辺で単純なモデルに近似して根拠を示す手法で、協力ゲーム理論にもとづくものではありません。
・PFI（Permutation Feature Importance）：ある特徴量の値をデータの間でばらばらに入れ替えたとき、モデルの精度がどれだけ下がるかで、その特徴量の重要度を測る方法です。協力ゲーム理論にもとづくものではありません。

覚え方のポイント
「SHAP＝シャープレイ値＝特徴量ごとの貢献度」「LIME＝周辺で単純なモデルに近似」「Grad-CAM＝画像のヒートマップ」。説明可能なAIの3つの代表的な手法です。

問35-11

説明したい1件のデータの周辺で、入力を少しずつ変えたデータを作って複雑なモデルに予測させ、その結果を線形モデルなどの単純で解釈しやすいモデルで近似することで判断の根拠を説明する手法として、最も適切なものを1つ選びなさい。

①LIME
②SHAP
③Grad-CAM
④PFI（Permutation Feature Importance）

答えと解説を見る

正解 ①LIME

解説
LIME（Local Interpretable Model-agnostic Explanations）は、ある1件のデータに対する複雑なモデルの予測を説明するための手法です。説明したいデータの周辺で、入力を少しずつ変えたデータをたくさん作って複雑なモデルに予測させ、その結果を、線形モデルなどの単純で解釈しやすいモデルで近似します。その単純なモデルを見ることで、「このデータについては、どの特徴量が予測に効いたか」を説明できます。モデルの種類を問わずに使える（Model-agnostic）点が特徴です。

他の選択肢が不適切な理由
・SHAP：協力ゲーム理論のシャープレイ値を用いて、各特徴量の貢献度を求める手法です。
・Grad-CAM：CNNの勾配を使って、画像の注目領域をヒートマップで示す手法です。
・PFI（Permutation Feature Importance）：特徴量の値を入れ替えたときの精度の下がり方から、モデル全体にとっての特徴量の重要度を測る方法で、1件のデータの周辺で単純なモデルに近似するものではありません。

覚え方のポイント
「LIME＝Local（その1件の周辺）で、Interpretable（解釈できる）単純なモデルに近似」。名前の単語の意味が、そのまま手法の説明になっています。

問45-11

大きく高性能なモデル（教師モデル）の出力を手本として、小さなモデル（生徒モデル）を学習させることで、性能をなるべく保ったままモデルを軽量化する手法として、最も適切なものを1つ選びなさい。

①量子化
②蒸留（知識蒸留）
③枝刈り（プルーニング）
④データ拡張

答えと解説を見る

正解 ②蒸留（知識蒸留）

解説
蒸留（知識蒸留、Knowledge Distillation）は、すでに学習を終えた大きく高性能なモデルを「教師モデル」とし、その出力をまねるように、小さな「生徒モデル」を学習させる手法です。教師モデルが出す各クラスの確率（たとえば「犬0.8・猫0.15・狐0.05」）には、正解ラベルだけでは分からない「どのクラスとどのクラスが似ているか」という情報も含まれており、生徒モデルはこれを手本にすることで、小さくても効率よく学習できます。2015年にヒントンらが提案したことで広く知られるようになりました。

他の選択肢が不適切な理由
・量子化：モデルの重みなどを、より少ないビット数の数値で表すことで軽量化する手法です。
・枝刈り（プルーニング）：重要度の低い重みやニューロンを取り除いて軽量化する手法です。
・データ拡張：学習データに変形を加えて水増しする手法で、モデルの軽量化の手法ではありません。

覚え方のポイント
モデルの軽量化の3つの代表的な手法は「蒸留（小さなモデルに教える）」「量子化（数値の精度を下げる）」「枝刈り（不要な部分を削る）」です。

問55-11

モデルの重みなどを、32ビットの浮動小数点数から8ビットの整数のような、より少ないビット数の数値で表すことで、メモリの使用量と計算量を減らす手法として、最も適切なものを1つ選びなさい。

①蒸留
②正規化
③量子化
④標本化

答えと解説を見る

正解 ③量子化

解説
量子化（Quantization）は、ニューラルネットワークの重みや計算途中の値を、通常の32ビットの浮動小数点数から、16ビットや8ビット、さらに少ないビット数の数値で表すことで、モデルを軽量化する手法です。1つの値を表すのに必要なビット数が減るため、メモリの使用量が減り、計算も速くなります。数値の精度が下がるため、性能がわずかに低下することがありますが、スマートフォンなどのエッジデバイスでモデルを動かす場合や、大規模言語モデルを少ない計算資源で動かす場合に広く使われています。

他の選択肢が不適切な理由
・蒸留：大きなモデルの出力をまねるように、小さなモデルを学習させる軽量化の手法です。
・正規化：データや層への入力の値の範囲や分布をそろえる処理で、ビット数を減らす手法ではありません。
・標本化：アナログ信号を一定の時間間隔で区切って値を取り出す処理（A-D変換の最初の手順）です。

覚え方のポイント
「量子化＝数値を表すビット数を減らす」。A-D変換でも「量子化（値を段階に丸める）」という言葉が出てきます。どちらも「値を粗い段階で表す」という共通の考え方です。

問65-11

ニューラルネットワークの中で、予測への影響が小さい重みやニューロンを取り除くことで、モデルを軽量化する手法として、最も適切なものを1つ選びなさい。

①ドロップアウト
②データ拡張
③早期終了
④枝刈り（プルーニング）

答えと解説を見る

正解 ④枝刈り（プルーニング）

解説
枝刈り（プルーニング）は、学習を終えたニューラルネットワークから、値が0に近いなど、予測への影響が小さい重みやニューロン、チャネルなどを取り除いて、モデルを小さく軽くする手法です。取り除いたあとに追加の学習を行って、性能の低下を補うこともよく行われます。大きなネットワークの中には、それだけで元のネットワークと同等の性能を出せる小さな部分ネットワークが含まれている、という「宝くじ仮説（Lottery Ticket Hypothesis）」も、枝刈りの研究から提唱されました。

他の選択肢が不適切な理由
・ドロップアウト：学習時だけ一時的にランダムにニューロンを無効にする過学習の対策で、推論時にはすべてのニューロンを使うため、軽量化の手法ではありません。
・データ拡張：学習データに変形を加えて水増しする手法です。
・早期終了：検証データの誤差が増え始めた時点で学習を打ち切る、過学習の対策です。

覚え方のポイント
「枝刈り＝不要な部分を永久に削る（軽量化）」「ドロップアウト＝学習中だけ一時的に休ませる（過学習の対策）」。どちらもニューロンを無効にするように見えますが、目的とタイミングが違います。

問75-11

学習済みのモデルを、クラウドのサーバーではなく、スマートフォンやカメラ、工場の機器などの端末側で動かして推論を行う形態を何というか。最も適切なものを1つ選びなさい。

①エッジAI
②クラウドAI
③エキスパートシステム
④ルールベースAI

答えと解説を見る

正解 ①エッジAI

解説
エッジAIは、学習済みのモデルを、スマートフォン、監視カメラ、自動車、工場の機器など、データが発生する現場の端末（エッジ）側で動かして推論を行う形態です。データをクラウドに送らずに端末の中で処理するため、通信による遅れが少なくリアルタイムに反応できる、通信が不安定な場所でも使える、個人情報などのデータを外部に送らずに済む、通信の費用を抑えられる、といった利点があります。一方、端末の計算能力やメモリ、電力は限られているため、モデルの軽量化の技術が重要になります。

他の選択肢が不適切な理由
・クラウドAI：データをクラウドのサーバーに送り、そこで推論などの処理を行う形態で、本問の説明とは逆です。
・エキスパートシステム：専門家の知識をルールとして組み込んだ、第2次AIブームのシステムです。
・ルールベースAI：人間が書いた規則に従って判断する方式のAIです。

覚え方のポイント
「エッジAI＝現場（端末）で処理＝速い・通信が不要・データを外に出さない」。エッジAIを実現するために、蒸留・量子化・枝刈りなどの軽量化の技術や、軽量なモデル（MobileNetなど）が使われます。

問85-11

通常の畳み込みを、チャネルごとの畳み込み（Depthwise）と、1×1の畳み込み（Pointwise）に分けて行うことで、計算量とパラメータの数を大幅に減らし、スマートフォンなどでも動くようにしたモデルとして、最も適切なものを1つ選びなさい。

①VGG
②MobileNet
③ResNet
④AlexNet

答えと解説を見る

正解 ②MobileNet

解説
MobileNetは、2017年にGoogleの研究者らが発表した、スマートフォンなどの計算能力が限られた端末でも動くように設計された軽量な画像認識のモデルです。通常の畳み込みを、チャネルごとに別々に空間方向の畳み込みを行う「Depthwise Convolution」と、1×1のフィルタでチャネル方向の情報を混ぜ合わせる「Pointwise Convolution」の2段階に分けて行う「Depthwise Separable Convolution」を用いることで、精度をなるべく保ちながら、計算量とパラメータの数を大幅に減らしました。

他の選択肢が不適切な理由
・VGG：3×3の小さなフィルタを重ねた、16層や19層のモデルで、パラメータの数が非常に多いことで知られます。
・ResNet：スキップ結合で非常に深いネットワークの学習を可能にしたモデルです。
・AlexNet：2012年のILSVRCで優勝した、ディープラーニングの躍進のきっかけとなったモデルです。

覚え方のポイント
「MobileNet＝モバイル（スマートフォン）向け＝Depthwise Separable Convolutionで軽量化」。エッジAIを支える軽量なモデルの代表例です。

問95-11

「大きなネットワークの中には、最初から単独で学習させても元のネットワークと同程度の性能に達する小さな部分ネットワークが含まれている」とする仮説として、最も適切なものを1つ選びなさい。

①分布仮説
②普遍近似定理
③宝くじ仮説
④ノーフリーランチ定理

答えと解説を見る

正解 ③宝くじ仮説

解説
宝くじ仮説（Lottery Ticket Hypothesis）は、フランクルとカービンが2018年に公開し、2019年の国際会議ICLRで発表した論文で示された仮説です。ランダムに初期化された大きなネットワークの中には、同じ初期値のまま、その部分だけを単独で学習させても、元のネットワークと同程度の性能に達する小さな部分ネットワーク（当たりくじ）が含まれている、というものです。大きなネットワークを学習させることは、たくさんの宝くじを買って当たりを引き当てるようなものだ、というたとえから名付けられました。モデルの枝刈り（プルーニング）の研究と深く関係しています。

他の選択肢が不適切な理由
・分布仮説：「似た文脈で使われる単語は、似た意味を持つ」という考え方で、word2vecなどの単語の分散表現の土台となっています。
・普遍近似定理：十分な数のニューロンを持つ隠れ層があれば、ニューラルネットワークはどのような連続関数でも近似できる、という定理です。
・ノーフリーランチ定理：あらゆる問題で常に最も優れた万能のアルゴリズムは存在しない、という定理です。

覚え方のポイント
「宝くじ仮説＝大きなネットワークの中に当たりの小さなネットワークがある」。枝刈りによって小さくしても性能が保てる理由の一つを説明する考え方です。

問105-11

AIの判断の根拠を人間が理解できるように示す「説明可能なAI（XAI）」が求められる理由として、最も不適切なものを1つ選びなさい。

①医療や融資の審査などで、判断の理由を利用者や関係者に説明する必要があるため
②モデルが誤った手がかりや偏りをもとに判断していないかを、開発者が確認するため
③AIの判断に対する利用者の信頼を得て、社会に受け入れられやすくするため
④判断の根拠を示しさえすれば、そのAIの予測は必ず正しいと保証できるため

答えと解説を見る

正解 ④判断の根拠を示しさえすれば、そのAIの予測は必ず正しいと保証できるため

解説
説明可能なAI（XAI：Explainable AI）の手法は、AIが「なぜその判断をしたのか」の手がかりを人間に示すものです。根拠を示せたとしても、その判断が正しいことまでが保証されるわけではありません。むしろ、示された根拠を人間が確認することで、誤りや不適切な判断に気づけることに意味があります。また、LIMEやSHAPのような手法が示す説明自体も近似にもとづくものであり、モデルの振る舞いを完全に表しているとは限らない点に注意が必要です。

他の選択肢が不適切な理由
※この問題は「不適切なもの」を選ぶ問題です。以下はXAIが求められる理由として正しい記述です。
・判断の理由を説明する必要がある：医療、金融、採用など、人の人生に大きく関わる判断では、理由の説明が強く求められます。
・誤った手がかりや偏りの確認：たとえば、画像の背景だけを見て判断しているといった問題を見つけられます。
・利用者の信頼を得る：根拠が分かることで、AIの判断が受け入れられやすくなります。

覚え方のポイント
「XAI＝判断の根拠を見える化する（正しさの保証ではない）」。AI倫理の「透明性」「アカウンタビリティ（説明責任）」とも深く関わるテーマです。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。