2026年版・4-4

回帰結合層(RNN・LSTM・GRU)の一問一答

G検定(ジェネラリスト検定)「ディープラーニングの要素技術」から、回帰結合層(RNN・LSTM・GRU)に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問/解説つき・基本無料

アプリ形式で解く(全480問) ディープラーニングの要素技術の要点解説を読む
問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問14-4

RNN(回帰型ニューラルネットワーク)の特徴として、最も適切なものを1つ選びなさい。

  • ①前の時刻の隠れ層の状態を次の時刻の計算にも入力し、時系列の文脈を扱えるようにしている。
  • ②小さなフィルタを画像の上でずらし、画像の局所的な特徴を効率よく取り出すようにしている。
  • ③入力と同じものを出力するように学習し、データを低次元に圧縮した表現を得るようにしている。
  • ④生成器と識別器の2つのネットワークを競わせ、本物のようなデータを作り出すようにしている。
答えと解説を見る
正解 ①前の時刻の隠れ層の状態を次の時刻の計算にも入力し、時系列の文脈を扱えるようにしている。
解説
RNN(Recurrent Neural Network)は、文章、音声、株価のように、順番に意味がある時系列データを扱うためのニューラルネットワークです。ある時刻の隠れ層の状態を、次の時刻の計算にも入力として使うことで、それまでの入力の情報(文脈)を引き継ぎながら処理できます。一方、系列が長くなると、時間をさかのぼって勾配を伝えるうちに勾配が消失・爆発しやすく、遠い過去の情報をうまく学習できないという課題があります。

他の選択肢が不適切な理由
・フィルタを画像の上でずらし局所的な特徴を取り出す:これはCNN(畳み込みニューラルネットワーク)の説明です。
・入力と同じものを出力するように学習する:これはオートエンコーダの説明です。
・生成器と識別器を競わせる:これはGAN(敵対的生成ネットワーク)の説明です。

覚え方のポイント
「RNN=前の時刻の状態を引き継ぐ(ループ構造)」。長期の依存関係を学べないという弱点を改善したのが、LSTMとGRUです。
問24-4

LSTM(Long Short-Term Memory)が持つゲートの組み合わせとして、最も適切なものを1つ選びなさい。

  • ①リセットゲート・更新ゲート
  • ②入力ゲート・出力ゲート・忘却ゲート
  • ③入力ゲート・出力ゲート・リセットゲート
  • ④忘却ゲート・更新ゲート・注意ゲート
答えと解説を見る
正解 ②入力ゲート・出力ゲート・忘却ゲート
解説
LSTMは、RNNの勾配消失の問題を改善し、長い系列の情報を保持できるようにしたモデルです。情報を長く保存しておく「セル(記憶セル)」と、情報の流れを調整する3つのゲートを持ちます。入力ゲートは新しい情報をどれだけセルに取り込むか、忘却ゲートはセルの古い情報をどれだけ忘れるか、出力ゲートはセルの情報をどれだけ出力するかを決めます。セルでは情報が足し算で引き継がれるため、勾配が消失しにくくなっています。

他の選択肢が不適切な理由
・リセットゲート・更新ゲート:これはGRU(Gated Recurrent Unit)が持つ2つのゲートです。
・入力・出力・リセットゲート:リセットゲートはGRUのゲートで、LSTMの組み合わせではありません。
・忘却・更新・注意ゲート:更新ゲートはGRUのゲートで、注意ゲートという名前のゲートはLSTMにはありません。

覚え方のポイント
「LSTM=3つのゲート(入力・出力・忘却)+セル」「GRU=2つのゲート(リセット・更新)でLSTMを簡略化」。ゲートの数と名前はよく出題されます。
問34-4

GRU(Gated Recurrent Unit)の説明として、最も適切なものを1つ選びなさい。

  • ①LSTMにゲートを追加し、合計5つのゲートでより細かく情報を制御するモデル
  • ②ゲートを一切持たず、前の時刻の状態をそのまま次の時刻に渡す単純なRNNのモデル
  • ③LSTMを簡略化し、リセットゲートと更新ゲートの2つで情報を制御するモデル
  • ④記憶セルを持ち、入力・出力・忘却の3つのゲートで情報を制御するモデル
答えと解説を見る
正解 ③LSTMを簡略化し、リセットゲートと更新ゲートの2つで情報を制御するモデル
解説
GRU(Gated Recurrent Unit)は、2014年に提案された、LSTMを簡略化したモデルです。LSTMの3つのゲートとセルの代わりに、「リセットゲート」と「更新ゲート」の2つのゲートで情報の流れを制御します。リセットゲートは過去の情報をどれだけ無視するか、更新ゲートは過去の情報と新しい情報をどのような割合で混ぜるかを決めます。LSTMよりパラメータが少なく計算も軽いため、同程度の性能で学習を速くできる場合があります。

他の選択肢が不適切な理由
・ゲートを追加して5つにする:GRUはゲートを減らして簡略化したモデルです。
・ゲートを一切持たない単純なRNN:GRUはゲートを持つモデルです。
・記憶セルと入力・出力・忘却の3つのゲートを持つ:これはLSTMの説明です。GRUは記憶セルを持たず、ゲートもリセットゲートと更新ゲートの2つに減らしています。

覚え方のポイント
「GRU=LSTMの軽量版・2つのゲート(リセット・更新)」。LSTMとGRUのどちらが優れているかは課題によって異なり、一概には言えません。
問44-4

入力の系列を、過去から未来の方向と、未来から過去の方向の両方から処理するRNNとして、最も適切なものを1つ選びなさい。

  • ①エルマンネットワーク
  • ②ジョーダンネットワーク
  • ③LSTM
  • ④双方向RNN
答えと解説を見る
正解 ④双方向RNN
解説
双方向RNN(Bidirectional RNN)は、系列を過去から未来へ向かって処理するRNNと、未来から過去へ向かって処理するRNNの2つを組み合わせ、両方の結果を使って出力するモデルです。ある時点の判断に、それより前の情報だけでなく後ろの情報も使えるため、文全体が手に入っている場合の品詞の推定や、文章の分類、機械翻訳のエンコーダなどで効果を発揮します。一方、未来の情報が必要になるため、リアルタイムで先の分からない予測には使えません。

他の選択肢が不適切な理由
・エルマンネットワーク:隠れ層の出力を次の時刻の入力に戻す、基本的なRNNの一種で、一方向に処理します。
・ジョーダンネットワーク:出力層の出力を次の時刻の入力に戻す、基本的なRNNの一種で、これも一方向に処理します。
・LSTM:記憶セルとゲートで長い系列の情報を保持できるようにしたRNNですが、それ自体は一方向に処理します。両方向に処理するには、LSTMを双方向RNNの形に組み合わせます(双方向LSTM)。

覚え方のポイント
「双方向=前と後ろの文脈を両方使う」。この「前後の文脈を両方使う」という考え方は、のちのBERT(双方向のTransformerエンコーダ)にもつながっています。
問54-4

機械翻訳などで用いられる「エンコーダ・デコーダ(seq2seq)」の説明として、最も適切なものを1つ選びなさい。

  • ①エンコーダが入力の系列をベクトルに変換し、デコーダがそれをもとに出力の系列を生成する。
  • ②デコーダが入力の系列をベクトルに変換し、エンコーダがそれをもとに出力の系列を生成する。
  • ③エンコーダとデコーダが同じ入力を別々に分類し、2つの結果の多数決で出力を決める。
  • ④エンコーダが画像を生成し、デコーダがそれを本物か偽物かを見分ける役割を担う。
答えと解説を見る
正解 ①エンコーダが入力の系列をベクトルに変換し、デコーダがそれをもとに出力の系列を生成する。
解説
エンコーダ・デコーダモデル(seq2seq:sequence to sequence)は、ある系列を別の系列に変換するモデルです。エンコーダ(符号化器)が、たとえば日本語の文のような入力の系列を読み込んで、その内容を表すベクトル(内部表現)に変換し、デコーダ(復号化器)が、そのベクトルをもとに英語の文のような出力の系列を1語ずつ生成します。入力と出力の長さが異なる機械翻訳、文章の要約、対話などに用いられます。

他の選択肢が不適切な理由
・デコーダが変換しエンコーダが生成する:役割が逆になっています。
・同じ入力を別々に分類して多数決をとる:エンコーダ・デコーダの説明ではありません。
・画像を生成し本物か偽物かを見分ける:これはGANの生成器と識別器の説明です。

覚え方のポイント
初期のseq2seqは、入力の内容を1つの固定長のベクトルに押し込めるため、長い文では情報が失われやすいという課題がありました。これを解決するために導入されたのが「Attention」です。
問64-4

系列を生成するモデルの学習で、前の時刻にモデル自身が出力した予測ではなく、正解のデータを次の時刻の入力として与える学習方法として、最も適切なものを1つ選びなさい。

  • ①Experience Replay
  • ②Teacher Forcing
  • ③Early Stopping
  • ④Fine-tuning
答えと解説を見る
正解 ②Teacher Forcing
解説
Teacher Forcing(教師強制)は、RNNなどで系列を生成するモデルを学習させるときに、各時刻の入力として、前の時刻のモデル自身の予測ではなく、正解のデータを与える方法です。学習の初めはモデルの予測が不正確なため、自分の予測を入力にすると誤りが次々に積み重なって学習が進みにくくなります。正解を入力として与えることで、学習を安定させ、速く進められます。一方、推論のときには正解が与えられないため、学習時と推論時の条件の違いが問題になることもあります。

他の選択肢が不適切な理由
・Experience Replay:深層強化学習(DQN)で、過去の経験を保存しておき、ランダムに取り出して学習に使う手法です。
・Early Stopping:検証データの誤差が増え始めた時点で学習を打ち切る手法です。
・Fine-tuning:学習済みのモデルを、別の課題のデータで追加学習させて調整する手法です。

覚え方のポイント
「Teacher Forcing=先生(正解)の答えを次の入力に使う」。学習時と推論時の入力の違いによって生じる問題は「露出バイアス(Exposure Bias)」と呼ばれます。
問74-4

LSTMの「忘却ゲート」の役割として、最も適切なものを1つ選びなさい。

  • ①新しく入力された情報を、どれだけ記憶セルに書き込むかを調整する役割を持つ。
  • ②記憶セルの情報を、どれだけ次の層や次の時刻へ出力するかを調整する役割を持つ。
  • ③記憶セルに保存された過去の情報を、どれだけ残し、どれだけ捨てるかを調整する。
  • ④学習が終わったあとに、不要になった重みを自動的に削除してモデルを軽くする。
答えと解説を見る
正解 ③記憶セルに保存された過去の情報を、どれだけ残し、どれだけ捨てるかを調整する。
解説
LSTMの忘却ゲートは、記憶セルに保存されている過去の情報について、どれだけを残し、どれだけを捨てる(忘れる)かを0から1の値で調整するゲートです。たとえば文章の中で話題が変わったときに、前の話題の情報を捨てるといった働きをします。不要な情報を適切に忘れることで、必要な情報を長く保持しやすくなります。

他の選択肢が不適切な理由
・新しい情報をどれだけ書き込むかを調整する:これは「入力ゲート」の役割です。
・セルの情報をどれだけ出力するかを調整する:これは「出力ゲート」の役割です。
・不要な重みを削除してモデルを軽くする:これはモデルの軽量化の手法(枝刈り)の説明で、ゲートの役割ではありません。

覚え方のポイント
LSTMの3つのゲートは「入力ゲート=書き込む量」「忘却ゲート=忘れる量」「出力ゲート=読み出す量」。ゲートの値にはシグモイド関数(0〜1の出力)が使われます。
問84-4

RNNが適用される代表的なデータとして、最も適切なものを1つ選びなさい。

  • ①1枚の写真のように、順番の概念を持たない静止画像のデータ
  • ②並べる順番を入れ替えても、意味が変わらない表データ
  • ③点どうしの位置だけが意味を持ち、順番を持たない点群のデータ
  • ④文章や音声のように、要素の並ぶ順番に意味がある系列データ
答えと解説を見る
正解 ④文章や音声のように、要素の並ぶ順番に意味がある系列データ
解説
RNNは、前の時刻の情報を次の時刻へ引き継ぐ構造を持つため、要素の並ぶ順番に意味がある系列データ(時系列データ)の処理に適しています。代表的なのは、単語が順に並ぶ文章、時間とともに変化する音声、株価や気温の推移、センサーの計測値などです。たとえば「私は犬が好き」と「犬は私が好き」は、使われている単語は同じでも順番によって意味が変わります。

他の選択肢が不適切な理由
・順番の概念を持たない静止画像:静止画像の処理には、主にCNNが用いられます。
・並べる順番を入れ替えても意味が変わらない表データ:順番に意味がないデータは、RNNの特徴を活かせません。表データには決定木や勾配ブースティングなどがよく使われます。
・順番を持たない点群のデータ:3次元の点の集まりは、点を並べる順番を入れ替えても同じ形を表すため、順番を前提とするRNNの特徴を活かせません。

覚え方のポイント
「画像=CNN」「系列データ=RNN(LSTM・GRU)」が基本の対応です。ただし現在は、系列データの処理でもTransformerが主流になっています。
問94-4

初期のエンコーダ・デコーダモデルが抱えていた課題として、最も適切なものを1つ選びなさい。

  • ①入力全体を1つの固定長ベクトルに押し込めるため、長い文ほど情報が失われやすい。
  • ②入力と出力の系列の長さが必ず同じでなければならず、翻訳には使うことができなかった。
  • ③エンコーダとデコーダを別々に学習させる必要があり、一度に学習できなかった。
  • ④デコーダが入力文の各単語に直接注意を向けるため、計算量が膨大になっていた。
答えと解説を見る
正解 ①入力全体を1つの固定長ベクトルに押し込めるため、長い文ほど情報が失われやすい。
解説
初期のエンコーダ・デコーダモデル(seq2seq)では、エンコーダが入力の系列全体を読み終えたあと、その内容を1つの固定長のベクトルにまとめ、デコーダはそのベクトルだけを頼りに出力を生成していました。入力の文が長くなるほど、多くの情報を決まった大きさのベクトルに押し込めることになり、文の前半の情報などが失われやすいという課題がありました。これを解決するため、デコーダが出力の各時点で入力のどの部分に注目するかを選べる「Attention」の仕組みが導入されました。

他の選択肢が不適切な理由
・入力と出力の長さが同じでなければならない:エンコーダ・デコーダモデルは、長さの異なる系列を変換できることが特徴で、翻訳に使われていました。
・別々に学習させる必要があった:エンコーダ・デコーダモデルは、エンコーダとデコーダをつなげた1つのネットワークとして、誤差逆伝播法でまとめて学習できます。
・デコーダが入力の各単語に直接注意を向ける:これは後から加えられたAttention(注意機構)の働きで、初期のモデルにはありませんでした。Attentionは、固定長ベクトルの課題を解消するために導入されたものです。

覚え方のポイント
「固定長ベクトルのボトルネック → Attentionの導入 → Transformer(Attentionだけで構成)」という流れで、自然言語処理のモデルの発展を押さえましょう。
問104-4

RNNの学習において、系列が長くなると遠い過去の情報が出力に反映されにくくなる問題を改善するために考案されたモデルとして、最も不適切なものを1つ選びなさい。

  • ①LSTM
  • ②単純パーセプトロン
  • ③GRU
  • ④Attention機構
答えと解説を見る
正解 ②単純パーセプトロン
解説
単純パーセプトロンは、入力層と出力層だけからなる最も基本的なニューラルネットワークで、系列データの前後関係を扱う仕組みを持っていません。そのため、RNNの長期の依存関係の問題を改善するモデルにはあたりません。

他の選択肢が不適切な理由
※この問題は「不適切なもの」を選ぶ問題です。以下は長期の依存関係の問題を改善するために考案された、正しいモデルです。
・LSTM:記憶セルと3つのゲートによって、長い系列でも必要な情報を保持しやすくしたモデルです。
・GRU:LSTMを簡略化し、2つのゲートで情報の流れを制御するモデルです。
・Attention機構:出力の各時点で、入力の系列のどの部分に注目するかを直接選べるため、遠く離れた情報も参照しやすくなります。

覚え方のポイント
長期の依存関係の問題への対策は「ゲートで情報を守る(LSTM・GRU)」と「必要な部分を直接見に行く(Attention)」の2つの方向があると整理しましょう。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題(全480問)に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析(Googleアナリティクス)と、広告の配信・成果の計測(A8.net)のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI(人工知能)を活用して作成しています。

【PR】