2026年版・5-5

大規模言語モデルと基盤モデルの一問一答

G検定（ジェネラリスト検定）「ディープラーニングの応用例」から、大規模言語モデルと基盤モデルに関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問）ディープラーニングの応用例の要点解説を読む

問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問15-5

「基盤モデル（Foundation Model）」の説明として、最も適切なものを1つ選びなさい。

①特定の1つの課題のためだけに、少量のデータでゼロから学習させた専用のモデル
②画像や文章を新しく生成する用途だけに使え、分類などには使えないモデル
③大量で多様なデータで事前学習し、追加学習などで幅広い課題に適応できるモデル
④学習済みのモデルを小さくするために、不要な重みを削除して作った軽量なモデル

答えと解説を見る

正解 ③大量で多様なデータで事前学習し、追加学習などで幅広い課題に適応できるモデル

解説
基盤モデル（Foundation Model）は、大量で多様なデータを使って大規模に事前学習され、ファインチューニングやプロンプトの工夫などによって、さまざまな課題に適応させることができるモデルの総称です。2021年にスタンフォード大学の研究者らが用いた呼び方で、大規模言語モデル（LLM）や、画像と文章を扱うモデルなどが代表例です。個別の課題ごとにゼロからモデルを作るのではなく、1つの基盤モデルを土台（基盤）として多くの用途に使う点が特徴です。

他の選択肢が不適切な理由
・1つの課題のためだけに少量のデータで学習させた専用のモデル：幅広い課題に適応できる基盤モデルとは逆の考え方です。
・生成の用途だけに使え分類などには使えない：基盤モデルは生成AIと同じ意味ではありません。調整しだいで、文章の分類、情報の抽出、画像の認識など、生成以外の課題にも幅広く使えます。
・不要な重みを削除して作った軽量なモデル：これはモデルの軽量化（枝刈り）の説明です。

覚え方のポイント
「基盤モデル＝大規模な事前学習＋幅広い課題への適応」。一方で、1つの基盤モデルの欠陥や偏りが、それを使うすべてのサービスに引き継がれるおそれがある、という課題も指摘されています。

問25-5

大規模言語モデルの研究で知られる「スケーリング則」の説明として、最も適切なものを1つ選びなさい。

①パラメータ数・データ量・計算量を増やすと、ある時点から誤差が必ず急激に増えるという経験則
②パラメータ数だけを増やせば、学習データの量を増やさなくても誤差が減り続けるという経験則
③パラメータ数・データ量・計算量を増やしても、誤差はほとんど減らずに横ばいになるという経験則
④パラメータ数・データ量・計算量を増やすと、誤差がべき乗則に従って減る傾向があるという経験則

答えと解説を見る

正解 ④パラメータ数・データ量・計算量を増やすと、誤差がべき乗則に従って減る傾向があるという経験則

解説
スケーリング則（Scaling Law）は、2020年にOpenAIの研究者らが示した経験則で、言語モデルの性能（誤差）が、モデルのパラメータ数、学習データの量、学習に使う計算量を大きくするにつれて、べき乗則に従って予測可能な形で向上する（誤差が減る）というものです。この知見は、モデルをより大規模にすることで性能を高めようとする流れを後押しし、大規模言語モデルの急速な発展につながりました。一方で、大規模化にはばく大な計算資源と電力が必要になるという課題もあります。

他の選択肢が不適切な理由
・ある時点から誤差が必ず急激に増える：スケーリング則の内容とは逆です。
・データを増やさなくても誤差が減り続ける：スケーリング則では、パラメータ数だけを大きくしても、学習データの量が足りなければ誤差の減り方は頭打ちになるとされます。規模とデータ量をあわせて増やすことが重要です。
・増やしても誤差がほとんど減らない：スケーリング則は、規模を大きくするほど誤差が予測可能な形で減ることを示したもので、逆の内容です。

覚え方のポイント
「スケーリング則＝大きくすれば予測どおりに良くなる」。また、モデルが一定の規模を超えると、それまでできなかった能力が急に現れるように見える「創発的能力」という現象も議論されています。

問35-5

大規模言語モデルに、課題の説明とともに、いくつかの解答例をプロンプトの中で示し、追加の学習を行わずに課題を解かせる方法として、最も適切なものを1つ選びなさい。

①few-shot学習
②ファインチューニング
③zero-shot学習
④インストラクションチューニング

答えと解説を見る

正解 ①few-shot学習

解説
few-shot学習は、大規模言語モデルへの入力（プロンプト）の中に、課題の説明といくつかの解答例を示すことで、モデルのパラメータを更新する追加の学習を行わずに、同じ種類の課題を解かせる方法です。例を1つだけ示す場合はone-shot、例を示さずに課題の説明だけで解かせる場合はzero-shotと呼びます。プロンプトの文脈の中から課題のやり方を読み取って対応することから、「文脈内学習（In-Context Learning）」とも呼ばれます。GPT-3によって、この能力が広く注目されました。

他の選択肢が不適切な理由
・ファインチューニング：学習済みのモデルに追加のデータを与え、パラメータを更新して課題に合わせる方法です。本問の「追加の学習を行わない」に反します。
・zero-shot学習：解答例を示さずに、課題の説明だけで解かせる方法です。本問は「いくつかの解答例を示す」ので当てはまりません。
・インストラクションチューニング：指示と応答の組のデータでモデルを追加学習（パラメータを更新）させる手法で、「追加の学習を行わない」に反します。

覚え方のポイント
「zero-shot＝例なし」「one-shot＝例1つ」「few-shot＝例いくつか」。いずれもプロンプトで指示するだけで、パラメータは変えない点がファインチューニングとの違いです。

問45-5

対話型の大規模言語モデルの開発で用いられる「RLHF」の説明として、最も適切なものを1つ選びなさい。

①人間が一切関与せず、インターネット上の文章だけを使って次の単語を予測するように学習させる。
②人間が出力の良し悪しを評価したデータで報酬モデルを作り、強化学習で出力を人間の好みに近づける。
③モデルの重みを低い精度の数値に置き換えることで、計算量とメモリの使用量を大きく減らす方法である。
④検索で集めた文書をプロンプトに加えることで、学習をし直さずに最新の情報を回答に反映させる。

答えと解説を見る

正解 ②人間が出力の良し悪しを評価したデータで報酬モデルを作り、強化学習で出力を人間の好みに近づける。

解説
RLHF（Reinforcement Learning from Human Feedback：人間のフィードバックによる強化学習）は、大規模言語モデルの出力を、人間にとって役に立ち、無害で、意図に沿ったものにするための手法です。まず、モデルが出した複数の回答を人間が比較・評価し、そのデータから「人間が好む回答ほど高い点をつける」報酬モデルを学習します。次に、その報酬モデルの点数が高くなるように、強化学習で言語モデルを調整します。対話型の生成AIの性能と安全性を高める手法として広く用いられています。

他の選択肢が不適切な理由
・人間が関与せず次の単語の予測だけで学習する：これは事前学習の説明です。
・重みを低い精度の数値に置き換える：これはモデルの軽量化の手法である「量子化」の説明です。
・検索で集めた文書をプロンプトに加える：これは「RAG（検索拡張生成）」の説明です。

覚え方のポイント
対話型の大規模言語モデルは、一般に「事前学習 → インストラクションチューニング（指示と回答の例で調整）→ RLHF（人間の評価で調整）」の順で作られます。

問55-5

大規模言語モデルが、事実とは異なる内容や、存在しない情報を、もっともらしく出力してしまう現象を何というか。最も適切なものを1つ選びなさい。

①オーバーフィッティング
②モード崩壊
③ハルシネーション
④コールドスタート

答えと解説を見る

正解 ③ハルシネーション

解説
ハルシネーション（幻覚）は、生成AIが、事実と異なる内容や、実在しない人物・文献・出来事などを、あたかも正しいかのようにもっともらしく出力してしまう現象です。大規模言語モデルは、学習したデータにもとづいて「もっともらしい次の単語」を予測して文章を作るため、内容の正しさが保証されているわけではありません。重要な用途に使う場合は、人間が出典や事実を確認すること、検索した信頼できる情報を参照させる（RAG）ことなどの対策が必要です。

他の選択肢が不適切な理由
・オーバーフィッティング：モデルが学習データに合わせすぎて、未知のデータで精度が下がる「過学習」のことです。
・モード崩壊：GANの学習で、生成器が似たようなデータばかり生成するようになる現象です。
・コールドスタート：協調フィルタリングで、履歴の少ない新しい利用者や商品にうまく推薦できない問題です。

覚え方のポイント
「ハルシネーション＝もっともらしい誤り」。生成AIの出力は「正しそうに見えても正しいとは限らない」という前提で使うことが、AIの利用者に求められる重要な姿勢です。

問65-5

大規模言語モデルが回答を生成する際に、外部の文書データベースなどから質問に関連する情報を検索し、その内容をプロンプトに加えて回答させる手法として、最も適切なものを1つ選びなさい。

①RLHF
②蒸留
③CTC
④RAG（検索拡張生成）

答えと解説を見る

正解 ④RAG（検索拡張生成）

解説
RAG（Retrieval-Augmented Generation：検索拡張生成）は、大規模言語モデルが回答を作る前に、社内文書やデータベース、ウェブなどの外部の情報源から、質問に関連する情報を検索（Retrieval）し、その内容をプロンプトに加えたうえで回答を生成（Generation）させる手法です。モデルを学習し直さなくても、最新の情報や、学習データに含まれていない社内の情報を回答に反映させやすくなります。また、根拠となる文書を示せるため、ハルシネーションを減らす対策としても用いられます。

他の選択肢が不適切な理由
・RLHF：人間の評価をもとにした強化学習で、言語モデルの出力を人間の好みに近づける手法です。
・蒸留：大きなモデルの出力をまねるように、小さなモデルを学習させる軽量化の手法です。
・CTC：音声認識などで、入力と出力の長さが異なる系列の対応づけを学習するための手法です。

覚え方のポイント
「RAG＝調べてから答える」。ただし、検索で見つけた文書そのものが誤っていたり、関係の薄い文書を取り出したりすると、回答も誤るおそれがある点に注意が必要です。

問75-5

大規模言語モデルへのプロンプトで、「段階的に考えてください」のように、答えに至るまでの推論の過程を順を追って出力させることで、複雑な問題の正答率を高める手法として、最も適切なものを1つ選びなさい。

①Chain-of-Thought（思考の連鎖）
②Teacher Forcing
③Experience Replay
④RAG（検索拡張生成）

答えと解説を見る

正解 ①Chain-of-Thought（思考の連鎖）

解説
Chain-of-Thought（CoT、思考の連鎖）は、大規模言語モデルに、いきなり答えを出させるのではなく、答えに至るまでの中間の推論の過程を順を追って出力させる手法です。プロンプトに推論の過程を含んだ解答例を示したり、「段階的に考えてください」のような指示を加えたりすることで行います。計算問題や論理的な推論が必要な問題で、正答率が向上することが報告されています。このように、プロンプトを工夫してモデルから望ましい出力を引き出す技術を「プロンプトエンジニアリング」と呼びます。

他の選択肢が不適切な理由
・Teacher Forcing：系列を生成するモデルの学習で、前の時刻の正解を次の入力として与える方法です。
・Experience Replay：深層強化学習で、過去の経験を保存して学習に再利用する手法です。
・RAG（検索拡張生成）：外部の文書を検索してプロンプトに加え、その内容をもとに回答させる手法で、推論の過程を書かせるものではありません。

覚え方のポイント
「Chain-of-Thought＝考え方の途中を書かせる」。プロンプトエンジニアリングは、モデルのパラメータを変えずに性能を引き出す方法だという点も押さえておきましょう。

問85-5

大規模言語モデルが文章を処理する際の単位である「トークン」についての説明として、最も適切なものを1つ選びなさい。

①文章を1文ごとに区切った処理の単位で、どれだけ長い文章でも上限なく一度に扱える。
②文章を単語や単語の一部などに区切った処理の単位で、一度に扱える量には上限がある。
③文章を1文字ずつ区切った単位で、どの言語でも1文字が必ず1トークンとして数えられる。
④文章を単語ごとに区切った単位で、辞書にない単語は処理することが一切できない。

答えと解説を見る

正解 ②文章を単語や単語の一部などに区切った処理の単位で、一度に扱える量には上限がある。

解説
大規模言語モデルは、文章を「トークン」と呼ばれる単位に区切って処理します。トークンは、単語そのもののこともあれば、単語の一部や1文字のこともあり、モデルごとに決められた区切り方（トークナイザー）で分けられます。モデルが一度に扱える入力と出力のトークン数には上限があり、これを「コンテキストウィンドウ（コンテキスト長）」と呼びます。上限を超える長い文章は、一度に処理できません。また、利用料金がトークン数に応じて決まるサービスも多くあります。

他の選択肢が不適切な理由
・1文ごとに区切り上限なく扱える：トークンは文より細かい単位で、一度に扱える量には上限があります。
・1文字が必ず1トークンになる：トークンの区切り方はモデルのトークナイザーによって異なり、1文字が1トークンになるとは限りません。言語によっても、同じ文字数で必要なトークン数は変わります。
・辞書にない単語は処理できない：単語の一部や1文字の単位にも分けられるため、辞書にない単語でも、より細かいトークンの組み合わせとして処理できます。

覚え方のポイント
「トークン＝モデルにとっての文字の数え方」「コンテキストウィンドウ＝一度に読めるトークン数の上限」。同じ内容でも、言語によって必要なトークン数が異なることがあります。

問95-5

大規模言語モデルが次のトークンを確率的に選んで文章を生成する際に、その選び方のばらつきを調整するパラメータで、値を大きくするほど多様で意外性のある出力に、小さくするほど確実性の高い出力になりやすいものとして、最も適切なものを1つ選びなさい。

①学習率
②割引率
③温度（Temperature）
④ドロップアウト率

答えと解説を見る

正解 ③温度（Temperature）

解説
大規模言語モデルは、次に続くトークンの候補それぞれに確率を割り当て、その確率にもとづいてトークンを選びながら文章を生成します。温度（Temperature）は、その確率の分布の「とがり具合」を調整するパラメータです。温度を小さくすると、確率の高いトークンがより選ばれやすくなり、出力は安定して確実性の高いものになります。温度を大きくすると、確率の低いトークンも選ばれやすくなり、出力は多様で意外性のあるものになりますが、内容が不正確になりやすくもなります。

他の選択肢が不適切な理由
・学習率：学習時にパラメータをどれだけ大きく更新するかを決めるハイパーパラメータで、生成時の選び方の調整ではありません。
・割引率：強化学習で、将来の報酬を割り引くための係数です。
・ドロップアウト率：学習時にニューロンを無効にする割合で、生成時の出力の多様さを調整するものではありません。

覚え方のポイント
「温度が高い＝多様・創造的」「温度が低い＝安定・確実」。正確さが求められる用途では温度を低めに、アイデア出しなどでは高めに設定する、という使い分けがされます。

問105-5

事前学習した大規模言語モデルを、「指示」と「それに対する望ましい応答」を組にした多数のデータで追加学習させ、人間の指示に従って応答できるようにする手法として、最も適切なものを1つ選びなさい。

①データ拡張
②RLHF
③蒸留
④インストラクションチューニング

答えと解説を見る

正解 ④インストラクションチューニング

解説
インストラクションチューニング（Instruction Tuning）は、事前学習を終えた大規模言語モデルを、「この文章を要約してください」のような指示（インストラクション）と、それに対する望ましい応答を組にした多数のデータで追加学習（ファインチューニング）させる手法です。事前学習だけのモデルは、次に続く文章を予測する能力は高いものの、人間の指示に従って答えるようには作られていません。インストラクションチューニングによって、多様な指示に対して適切に応答できるようになり、学習時に見ていない種類の課題への対応力も高まるとされています。

他の選択肢が不適切な理由
・データ拡張：既存のデータに変形を加えて学習データを水増しする手法です。
・RLHF：人間が回答を比較・評価したデータで報酬モデルを作り、強化学習で出力を人間の好みに近づける手法です。指示と応答の組をそのまま学習させるものではありません。
・蒸留：大きなモデルの出力を手本に小さなモデルを学習させる、軽量化の手法です。

覚え方のポイント
対話型の大規模言語モデルづくりの流れは「事前学習 → インストラクションチューニング → RLHF」。それぞれの目的（知識を身につける → 指示に従う → 人間の好みに合わせる）とあわせて覚えましょう。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。