ホームに戻る
2026年版・3-3

誤差逆伝播法と勾配の問題の一問一答

G検定（ジェネラリスト検定）「ディープラーニングの概要」から、誤差逆伝播法と勾配の問題に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問） ディープラーニングの概要の要点解説を読む
問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問13-3

誤差逆伝播法の説明として、最も適切なものを1つ選びなさい。

  • ①入力層から出力層へ向かって入力を伝え、各層の出力を順番に計算して予測値を求める。
  • ②重みの値を一つずつ少しだけ変えて誤差の変化を調べ、すべての勾配を個別に求める。
  • ③出力層から入力層へ向かって誤差を伝え、連鎖律で各重みの勾配を効率よく求める。
  • ④誤差が大きかったデータだけを入力層に戻し、同じデータで何度も学習を繰り返す。
答えと解説を見る
正解 ③出力層から入力層へ向かって誤差を伝え、連鎖律で各重みの勾配を効率よく求める。
解説
誤差逆伝播法（バックプロパゲーション）は、ニューラルネットワークの学習で、各重みを「どちらの方向に、どれだけ変えれば誤差が小さくなるか」（勾配）を効率よく求める方法です。出力層で求めた誤差を、出力層から入力層へ向かって逆向きに伝えながら、微分の連鎖律を使って各層の重みの勾配を順番に計算します。1986年にデビッド・ラメルハートらが発表した論文で広く知られるようになりました。

他の選択肢が不適切な理由
・入力層から出力層へ向かって各層の出力を計算する：これは「順伝播（フォワードプロパゲーション）」の説明です。
・重みを一つずつ変えて誤差の変化を調べる：これは数値微分による方法で、重みの数が膨大なニューラルネットワークでは計算に時間がかかりすぎます。誤差逆伝播法はこれを効率化したものです。
・誤差が大きかったデータだけを戻して学習を繰り返す：誤差逆伝播法の説明ではありません。

覚え方のポイント
「順伝播＝予測を計算」「逆伝播＝勾配を計算」。誤差逆伝播法は、予測の結果にどのニューロンがどれだけ関わったのかを明らかにできるため、「信用割当問題」を解決した手法とも説明されます。
問23-3

誤差逆伝播法で用いられる「連鎖律」の説明として、最も適切なものを1つ選びなさい。

  • ①関数を何回微分しても、その値は必ず元の関数と同じになるという性質
  • ②複数の関数の微分を足し合わせると、必ず0になるという性質
  • ③確率分布どうしのずれを、2つの分布の対数の差で表すという性質
  • ④合成関数の微分は、各関数の微分の掛け算で求められるという性質
答えと解説を見る
正解 ④合成関数の微分は、各関数の微分の掛け算で求められるという性質
解説
連鎖律（チェーンルール）は、関数の中に関数が入った「合成関数」の微分は、それぞれの関数の微分を掛け合わせて求められる、という性質です。たとえば y＝f(u)、u＝g(x) のとき、y を x で微分した値は「y を u で微分した値 × u を x で微分した値」になります。ニューラルネットワークは、層ごとの計算を何重にも重ねた巨大な合成関数とみなせるため、連鎖律を使うと、出力側から順番に微分を掛け合わせていくことで、すべての重みの勾配を効率よく求められます。

他の選択肢が不適切な理由
・何回微分しても元の関数と同じ：このような性質を持つのは指数関数 eˣ などの特別な場合に限られ、連鎖律の説明ではありません。
・微分を足し合わせると0になる：連鎖律の内容ではありません。
・確率分布のずれを対数の差で表す：KLダイバージェンスなどの説明に近く、連鎖律とは無関係です。

覚え方のポイント
「連鎖律＝微分の掛け算リレー」。この掛け算の中に、シグモイド関数の微分（最大0.25）のような小さな値が何度も入ると、勾配がどんどん小さくなる、というのが勾配消失問題の仕組みです。
問33-3

y＝(2x＋1)² のとき、x＝1 における dy/dx の値として、最も適切なものを1つ選びなさい。

  • ①12
  • ②6
  • ③9
  • ④18
答えと解説を見る
正解 ①12
解説
u＝2x＋1 とおくと、y＝u² です。連鎖律より、
dy/dx ＝ dy/du × du/dx ＝ 2u × 2 ＝ 4u ＝ 4(2x＋1)
x＝1 を代入すると、4 ×（2×1＋1）＝ 4 × 3 ＝ 12 となります。

他の選択肢が不適切な理由
・6：外側の微分 2u（＝6）だけを求め、内側の 2x＋1 の微分（＝2）を掛け忘れた値です。連鎖律では、内側の関数の微分も必ず掛け合わせます。
・9：x＝1 を代入した y の値そのもの（3²）で、微分の値ではありません。
・18：外側の微分 2u を 2u² と誤るなど、計算を取り違えた値です（2×3²＝18）。

覚え方のポイント
連鎖律の計算は「外側を微分して、内側の微分を掛ける」。誤差逆伝播法は、この計算をネットワークの層の数だけ繰り返し行っているものだと考えると理解しやすくなります。
問43-3

ディープラーニングで層を深くしたときに起こる「勾配消失問題」の説明として、最も適切なものを1つ選びなさい。

  • ①誤差を逆向きに伝える途中で勾配が大きくなり、入力層に近い層の重みが極端に大きく更新される。
  • ②誤差を逆向きに伝える途中で勾配が小さくなり、入力層に近い層の重みがほとんど更新されなくなる。
  • ③層を深くすると訓練データでの誤差は下がるが、テストデータでの誤差だけが大きくなる問題である。
  • ④層を深くすると出力層のニューロンの数が減り、分類できるクラスの数が少なくなる問題である。
答えと解説を見る
正解 ②誤差を逆向きに伝える途中で勾配が小さくなり、入力層に近い層の重みがほとんど更新されなくなる。
解説
誤差逆伝播法では、出力層から入力層へ向かって、各層の微分の値を掛け合わせながら勾配を伝えていきます。このとき、シグモイド関数（微分の最大値0.25）のように微分の値が小さい活性化関数を使っていると、層を通過するたびに勾配が小さくなり、入力層に近い層ではほとんど0になってしまいます。その結果、入力層に近い層の重みがほとんど更新されず、学習が進まなくなります。これが勾配消失問題です。

他の選択肢が不適切な理由
・勾配が大きくなり重みが極端に更新される：これは「勾配爆発問題」の説明で、勾配消失とは逆の現象です。
・訓練データでは誤差が下がりテストデータでは大きくなる：これは「過学習」の説明で、勾配消失問題とは別の現象です。
・分類できるクラスの数が少なくなる：出力層のニューロンの数は、層の深さとは関係なく課題に合わせて決めます。

覚え方のポイント
勾配消失の主な対策は「ReLUなどの活性化関数」「重みの初期値の工夫」「バッチ正規化」「スキップ結合（ResNet）」「LSTMなどのゲート構造（RNNの場合）」です。対策と組み合わせて覚えましょう。
問53-3

勾配消失問題への対策として、最も不適切なものを1つ選びなさい。

  • ①中間層の活性化関数として、ReLU関数やその派生形を用いる
  • ②層の出力を後ろの層へ直接足し込む、スキップ結合を用いる
  • ③中間層の活性化関数を、ReLUからシグモイドに置き換える
  • ④バッチ正規化を用いて、各層への入力の分布を整えて安定させる
答えと解説を見る
正解 ③中間層の活性化関数を、ReLUからシグモイドに置き換える
解説
シグモイド関数は微分の最大値が0.25と小さく、中間層に使うと、誤差逆伝播で層を通過するたびに勾配が小さくなりやすい関数です。ReLUからシグモイド関数に置き換えることは、勾配消失を起こしやすくする方向の変更であり、対策とは逆になります。

他の選択肢が不適切な理由
※この問題は「不適切なもの」を選ぶ問題です。以下は勾配消失への対策として正しい記述です。
・ReLU関数やその派生形を用いる：ReLUは正の範囲で微分が常に1なので、勾配が小さくなりにくくなります。
・スキップ結合を用いる：層を飛び越えて情報と勾配を伝える経路ができるため、深いネットワークでも勾配が届きやすくなります。ResNetで用いられました。
・バッチ正規化を用いる：各層への入力の分布を整えることで、学習が安定し、勾配消失も起こりにくくなります。

覚え方のポイント
「シグモイド関数＝出力層（2クラス分類）向き、中間層には不向き」と覚えましょう。重みの初期値を工夫すること（XavierやHeの初期値）も、勾配消失の対策の一つです。
問63-3

活性化関数にReLU関数を用いるときに適しているとされる、重みの初期値の設定方法として、最も適切なものを1つ選びなさい。

  • ①Xavierの初期値
  • ②ゼロ初期化
  • ③定数初期化
  • ④Heの初期値
答えと解説を見る
正解 ④Heの初期値
解説
重みの初期値は、学習がうまく進むかどうかを大きく左右します。各層の出力のばらつきが層を重ねても大きく変わらないように、前の層のニューロンの数に応じて初期値のばらつきを決める方法が考案されています。ReLU関数を用いる場合には「Heの初期値」、シグモイド関数やtanhのように原点付近で左右対称な活性化関数を用いる場合には「Xavierの初期値（Glorotの初期値）」が適しているとされます。

他の選択肢が不適切な理由
・Xavierの初期値：主にシグモイド関数やtanhを用いる場合に適した初期値です。
・ゼロ初期化（すべての重みを0にする方法）：すべてのニューロンが同じ値を出力し、同じように更新されてしまうため、ニューロンを複数用意する意味がなくなります。
・定数初期化（すべての重みを同じ定数にする方法）：0にする場合と同様に、ニューロンどうしの違いが生まれず、うまく学習できません。

覚え方のポイント
「ReLU＝He（ヒー）」「シグモイド・tanh＝Xavier（ザビエル）」の組み合わせで覚えましょう。重みの初期値はランダムにばらつかせることが前提です。
問73-3

誤差逆伝播の途中で勾配が極端に大きくなり、学習が不安定になるのを防ぐために、勾配の大きさに上限を設ける手法として、最も適切なものを1つ選びなさい。

  • ①勾配クリッピング
  • ②ドロップアウト
  • ③早期終了
  • ④データ拡張
答えと解説を見る
正解 ①勾配クリッピング
解説
勾配クリッピングは、誤差逆伝播で求めた勾配の大きさ（ノルム）が、あらかじめ決めたしきい値を超えた場合に、勾配をしきい値以下に縮めてから重みを更新する手法です。勾配が極端に大きくなる「勾配爆発」が起きると、重みが一度に大きく更新されて学習が発散してしまいますが、勾配クリッピングによってこれを防ぐことができます。長い系列を扱うRNNの学習などで特に用いられます。

他の選択肢が不適切な理由
・ドロップアウト：学習時にランダムにニューロンを無効にし、過学習を抑える手法です。
・早期終了：検証データの誤差が増え始めた時点で学習を打ち切る、過学習の対策です。
・データ拡張：画像の反転や回転などで学習データを水増しする手法です。

覚え方のポイント
「勾配消失＝ReLU・スキップ結合・バッチ正規化などで対策」「勾配爆発＝勾配クリッピングで対策」。「クリップ＝はさんで切り取る」から、上限で切り詰める手法だと覚えましょう。
問83-3

誤差逆伝播法を1986年に発表した論文で広め、ニューラルネットワーク研究の再興に大きく寄与した研究者として、最も適切なものを1つ選びなさい。

  • ①フランク・ローゼンブラット
  • ②デビッド・ラメルハート
  • ③マービン・ミンスキー
  • ④イアン・グッドフェロー
答えと解説を見る
正解 ②デビッド・ラメルハート
解説
誤差逆伝播法は、1986年にデビッド・ラメルハート、ジェフリー・ヒントン、ロナルド・ウィリアムズが発表した論文によって広く知られるようになりました。これにより、隠れ層を持つ多層のニューラルネットワークを効率よく学習させられるようになり、単純パーセプトロンの限界の指摘で停滞していたニューラルネットワークの研究が再び盛り上がるきっかけとなりました。

他の選択肢が不適切な理由
・フランク・ローゼンブラット：1958年に単純パーセプトロンを提案した人物です。
・マービン・ミンスキー：シーモア・パパートとともに、単純パーセプトロンが線形分離不可能な問題を解けないことを示した人物で、ダートマス会議の提案者の一人でもあります。
・イアン・グッドフェロー：2014年にGAN（敵対的生成ネットワーク）を発表した人物です。

覚え方のポイント
ニューラルネットワークの歴史は「1958年 パーセプトロン（ローゼンブラット）→ 1969年 限界の指摘（ミンスキーとパパート）→ 1986年 誤差逆伝播法（ラメルハートら）→ 2006年 事前学習（ヒントン）→ 2012年 AlexNet」の流れで押さえましょう。
問93-3

ニューラルネットワークの重みをすべて同じ値で初期化すると、うまく学習できない理由として、最も適切なものを1つ選びなさい。

  • ①重みが同じ値だと誤差関数の値が計算できず、学習を開始することができないため
  • ②重みが同じ値だと勾配が必ず無限大になり、学習が一度で発散してしまうため
  • ③同じ層のニューロンが同じように更新され続け、数を増やす意味がなくなるため
  • ④重みが同じ値だと学習率が自動的に0になり、重みが一切更新されなくなるため
答えと解説を見る
正解 ③同じ層のニューロンが同じように更新され続け、数を増やす意味がなくなるため
解説
同じ層のすべての重みを同じ値で初期化すると、その層のニューロンはすべて同じ計算をして同じ値を出力します。すると誤差逆伝播で求まる勾配も同じになり、学習が進んでもすべてのニューロンの重みが同じように更新され続けます。これでは、ニューロンを何個用意しても1個分の働きしかできず、多様な特徴を学習できません。これを「重みの対称性の問題」といい、防ぐために重みの初期値はランダムにばらつかせます。

他の選択肢が不適切な理由
・誤差関数の値が計算できない：重みが同じ値でも誤差関数の値自体は計算できます。
・勾配が必ず無限大になる：同じ値にしたことで勾配が無限大になるわけではありません。
・学習率が自動的に0になる：学習率は人が決めるハイパーパラメータで、重みの初期値によって変わることはありません。

覚え方のポイント
重みの初期値は「ランダムにばらつかせる」ことが大前提で、そのばらつきの大きさを活性化関数に合わせて決めるのが、XavierやHeの初期値です。
問103-3

RNN（回帰型ニューラルネットワーク）の学習で用いられる、時間方向に展開したネットワークに対して誤差逆伝播法を適用する方法として、最も適切なものを1つ選びなさい。

  • ①Teacher Forcing
  • ②Experience Replay
  • ③Grad-CAM
  • ④BPTT（Backpropagation Through Time）
答えと解説を見る
正解 ④BPTT（Backpropagation Through Time）
解説
RNNは、前の時刻の情報を次の時刻の計算に引き継ぐ構造を持っています。このRNNを時刻ごとに展開すると、時間方向に長くつながった深いネットワークとみなすことができます。BPTT（Backpropagation Through Time、通時的誤差逆伝播法）は、この展開したネットワークに対して、時間をさかのぼる方向に誤差を伝えて勾配を求める方法です。系列が長くなると、時間方向に勾配を何度も掛け合わせることになるため、勾配消失や勾配爆発が起こりやすくなります。

他の選択肢が不適切な理由
・Teacher Forcing：系列を生成するモデルの学習で、前の時刻の予測値ではなく正解の値を次の時刻の入力として与える学習方法です。
・Experience Replay：深層強化学習のDQNで、過去の経験を保存しておき、ランダムに取り出して学習に使う手法です。
・Grad-CAM：画像認識のモデルが画像のどこに注目したかを、勾配を使って可視化する手法です。

覚え方のポイント
「BPTT＝時間をさかのぼる誤差逆伝播」。RNNの勾配消失の問題を、ゲートの仕組みで改善したのがLSTMやGRUです。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。

【PR】