2026年版・5-3

自然言語処理の一問一答

G検定（ジェネラリスト検定）「ディープラーニングの応用例」から、自然言語処理に関する4択問題を10問。「答えと解説を見る」を開くと、正解とその理由がその場で読めます。会員登録は不要です。

この分野の演習

全10問／解説つき・基本無料

アプリ形式で解く（全480問）ディープラーニングの応用例の要点解説を読む

問題

上から順に解いてみてください。答えは各問の下で確認できます。本試験は多肢選択式で、問い方は問題ごとに異なりますが、ここでは4択で出題しています。

問15-3

文章を、単語の出現回数だけで表し、単語の並び順を考慮しない表現方法として、最も適切なものを1つ選びなさい。

①word2vec
②位置エンコーディング
③Bag-of-Words（BoW）
④双方向RNN

答えと解説を見る

正解 ③Bag-of-Words（BoW）

解説
Bag-of-Words（BoW）は、文章を「どの単語が何回出てきたか」という出現回数のベクトルで表す方法です。単語を袋（Bag）に放り込むように、単語の並び順は無視します。仕組みが単純で扱いやすい一方、「犬が人をかむ」と「人が犬をかむ」のように、語順で意味が変わる違いを表せません。また、単語の意味の近さも表現できません。

他の選択肢が不適切な理由
・word2vec：周辺の単語との関係から、単語を意味を反映した密なベクトル（分散表現）で表す手法です。
・位置エンコーディング：Transformerで、単語の並び順の情報をモデルに与えるための仕組みで、語順を考慮する側の技術です。
・双方向RNN：系列を両方向から処理するRNNで、語順を考慮して文章を扱います。

覚え方のポイント
「BoW＝単語の袋＝出現回数だけ・語順は無視」。語順の情報を少し取り入れる方法として、連続するN個の単語をひとまとまりとして扱う「N-gram」があります。

問25-3

文書の中の単語の重要度を表す「TF-IDF」の説明として、最も適切なものを1つ選びなさい。

①その文書でよく出現し、ほかの多くの文書にもよく出現する単語ほど大きな値になる。
②その文書ではほとんど出現せず、ほかの多くの文書でよく出現する単語ほど大きな値になる。
③その文書での出現回数だけで決まり、ほかの文書に出現するかどうかには影響されない。
④その文書でよく出現し、ほかの多くの文書にはあまり出現しない単語ほど大きな値になる。

答えと解説を見る

正解 ④その文書でよく出現し、ほかの多くの文書にはあまり出現しない単語ほど大きな値になる。

解説
TF-IDFは、ある単語が、ある文書にとってどれだけ重要かを表す指標で、TF（Term Frequency：その文書の中での単語の出現頻度）と、IDF（Inverse Document Frequency：逆文書頻度）を掛け合わせて求めます。IDFは、その単語を含む文書が少ないほど大きくなる値です。そのため、「その文書にはよく出てくるが、ほかの文書にはあまり出てこない単語」ほどTF-IDFは大きくなり、その文書を特徴づける単語だと判断できます。「は」「です」のように、どの文書にも出てくる単語は、IDFが小さくなるため重要度が低くなります。

他の選択肢が不適切な理由
・ほかの多くの文書にもよく出現する単語ほど大きい：多くの文書に出現する単語はIDFが小さくなり、TF-IDFは小さくなります。
・その文書ではほとんど出現しない単語ほど大きい：TFが小さいため、TF-IDFは小さくなります。
・その文書での出現回数だけで決まる：これはTF（出現頻度）だけの説明です。TF-IDFでは、ほかの多くの文書にも出現する単語ほどIDFが小さくなり、値が下がります。

覚え方のポイント
「TF＝その文書でよく出る」「IDF＝ほかではあまり出ない（珍しい）」。この両方を満たす単語が、その文書の「キーワード」になると覚えましょう。

問35-3

日本語の文を、意味を持つ最小の単位に分割し、それぞれの品詞などを判定する処理として、最も適切なものを1つ選びなさい。

①形態素解析
②構文解析
③感情分析
④機械翻訳

答えと解説を見る

正解 ①形態素解析

解説
形態素解析は、文を、意味を持つ最小の単位である「形態素」に分割し、それぞれの品詞（名詞、動詞、助詞など）や活用形を判定する処理です。英語のように単語の間が空白で区切られていない日本語では、まず文を単語に分ける必要があるため、自然言語処理の最初の段階として特に重要です。たとえば「私は本を読む」を「私／は／本／を／読む」に分け、「名詞／助詞／名詞／助詞／動詞」のように品詞を付けます。

他の選択肢が不適切な理由
・構文解析：単語どうしの係り受けの関係など、文の構造を解析する処理で、形態素解析のあとに行います。
・感情分析：文章に込められた、肯定的・否定的といった感情や評価を判定する処理です。
・機械翻訳：ある言語の文を、別の言語の文に自動で翻訳する処理です。

覚え方のポイント
自然言語処理の基本的な流れは「形態素解析（単語に分ける）→ 構文解析（文の構造）→ 意味解析（意味）→ 文脈解析（文と文の関係）」です。

問45-3

word2vecの2つの学習方法の説明として、最も適切なものを1つ選びなさい。

①skip-gramは周辺の単語から中心の単語を予測し、CBOWは中心の単語から周辺の単語を予測する。
②CBOWは周辺の単語から中心の単語を予測し、skip-gramは中心の単語から周辺の単語を予測する。
③CBOWとskip-gramはどちらも、文全体から次の文を予測することで単語の意味を学習する。
④CBOWは文中の隠された単語を当て、skip-gramは2つの文が連続するかを当てて学習する。

答えと解説を見る

正解 ②CBOWは周辺の単語から中心の単語を予測し、skip-gramは中心の単語から周辺の単語を予測する。

解説
word2vecは、2013年にGoogleのトマス・ミコロフらが発表した、単語を意味を反映したベクトル（分散表現）に変換する手法です。「似た文脈で使われる単語は、似た意味を持つ」という考え方（分布仮説）にもとづいています。学習方法には2種類あり、CBOW（Continuous Bag-of-Words）は周辺の単語から中心の単語を予測し、skip-gramは中心の単語から周辺の単語を予測するように、ニューラルネットワークを学習させます。学習後のネットワークの重みが、各単語のベクトルになります。

他の選択肢が不適切な理由
・skip-gramが周辺から中心を予測する：2つの説明が逆になっています。
・文全体から次の文を予測する：word2vecは、単語とその周辺の単語の関係から学習します。
・隠された単語を当て、2文の連続を当てる：これはBERTの事前学習の課題（Masked Language ModelとNext Sentence Prediction）の説明で、word2vecの2つの学習方法ではありません。

覚え方のポイント
「CBOW＝周り→真ん中」「skip-gram＝真ん中→周り」。skip-gramのほうが計算に時間はかかるものの、出現回数の少ない単語の表現も学習しやすいとされます。

問55-3

word2vecなどで得られる単語の分散表現の性質を示す例として、最も適切なものを1つ選びなさい。

①「暑い」と「寒い」は意味が反対なので、ベクトルは必ず互いに大きく離れた値になる。
②単語のベクトルは、各次元の意味を人があらかじめ決めて、手作業で値を入れたものである。
③「王様」のベクトルから「男性」を引き「女性」を足すと、「女王」に近い値になる。
④すべての単語のベクトルは互いに直交し、どの2つの単語の類似度も必ず0になる。

答えと解説を見る

正解 ③「王様」のベクトルから「男性」を引き「女性」を足すと、「女王」に近い値になる。

解説
分散表現は、単語を数百次元程度の密なベクトルで表したもので、意味の近い単語どうしはベクトルも近くなります。さらに、単語の意味の関係が、ベクトルの足し算・引き算として表れることが知られています。代表的な例が「王様 − 男性＋女性 ≒ 女王」で、「性別の違い」という関係がベクトルの差として捉えられていることを示しています。

他の選択肢が不適切な理由
・意味が反対の語は必ず大きく離れる：分散表現は「似た文脈で使われるか」をもとに学習されるため、「暑い」と「寒い」のように同じような文脈で使われる反対語は、むしろ近いベクトルになることがよくあります。
・各次元の意味を人が決めて手作業で入れる：分散表現は大量の文章から自動で学習されるもので、各次元が何を表すかを人があらかじめ決めてはいません。
・すべての単語のベクトルが直交し類似度が0：これは、単語ごとに1か所だけ1を立てる「one-hot表現」の性質に近いものです。one-hot表現では単語の意味の近さを表せないことが、分散表現が考案された理由の一つです。

覚え方のポイント
「one-hot表現＝単語どうしの関係が表せない（まばら）」「分散表現＝意味の近さや関係を表せる（密）」。単語の類似度は、ベクトルの向きの近さを表すコサイン類似度で測るのが一般的です。

問65-3

単語をさらに細かい文字の並び（部分文字列）に分けて学習することで、学習データに出てこなかった未知の単語にもベクトルを与えられるようにした手法として、最も適切なものを1つ選びなさい。

①TF-IDF
②Bag-of-Words
③形態素解析
④fastText

答えと解説を見る

正解 ④fastText

解説
fastTextは、2016年にFacebook（現Meta）の研究者らが発表した、word2vecを発展させた単語の分散表現の手法です。単語そのものだけでなく、単語をさらに細かく分けた文字の並び（部分文字列、サブワード）も使って学習します。そのため、学習データにない未知の単語や、活用によって形が変わった単語でも、部分文字列の情報からベクトルを作ることができます。学習が高速であることも特徴です。

他の選択肢が不適切な理由
・TF-IDF：文書の中での単語の重要度を、出現頻度と逆文書頻度から計算する指標です。
・Bag-of-Words：文章を単語の出現回数で表す方法で、未知の単語にベクトルを与える手法ではありません。
・形態素解析：文を意味を持つ最小の単位に分割し、品詞を判定する処理です。

覚え方のポイント
「fastText＝部分文字列（サブワード）を使う＝未知語に強い・速い」。現在の大規模言語モデルも、単語をサブワードの単位（トークン）に分けて扱っています。

問75-3

同じ単語でも文脈によって異なるベクトルを与えられるようにした、双方向のLSTMを用いる単語の表現方法として、最も適切なものを1つ選びなさい。

①ELMo
②word2vec
③Bag-of-Words
④TF-IDF

答えと解説を見る

正解 ①ELMo

解説
ELMo（Embeddings from Language Models）は、2018年に発表された単語の表現方法です。双方向のLSTMで構成した言語モデルを大量の文章で学習させ、その内部の状態を単語の表現として使います。文全体の前後の文脈を踏まえて単語のベクトルを計算するため、「銀行の口座」と「川の岸（英語ではどちらもbank）」のように、同じ単語でも文脈に応じて異なるベクトルを与えられます。

他の選択肢が不適切な理由
・word2vec：単語ごとに1つの固定されたベクトルを割り当てるため、文脈によって意味が変わる単語を区別できません。
・Bag-of-Words：文章を単語の出現回数で表す方法で、文脈に応じたベクトルは作れません。
・TF-IDF：文書の中での単語の重要度を表す指標です。

覚え方のポイント
「word2vec＝単語ごとに固定のベクトル」「ELMo・BERT＝文脈に応じてベクトルが変わる」。ELMoのあと、同じ2018年に、Transformerを用いたBERTが登場しました。

問85-3

BERTの説明として、最も適切なものを1つ選びなさい。

①Transformerのデコーダを用い、前の単語から次の単語を順番に予測することで事前学習する。
②Transformerのエンコーダを用い、文中の一部の単語を隠して当てる課題などで事前学習する。
③双方向のLSTMを用いて、単語ごとに1つだけ固定されたベクトルを学習するモデルである。
④画像を小さなパッチに分割してTransformerに入力する、画像分類のためのモデルである。

答えと解説を見る

正解 ②Transformerのエンコーダを用い、文中の一部の単語を隠して当てる課題などで事前学習する。

解説
BERT（Bidirectional Encoder Representations from Transformers）は、2018年にGoogleが発表した言語モデルです。Transformerのエンコーダを重ねた構造を持ち、文中の一部の単語を隠して（マスクして）その単語を当てる「Masked Language Model（MLM）」と、2つの文が連続した文かどうかを当てる「Next Sentence Prediction（NSP）」の2つの課題で事前学習します。単語の左右両方の文脈を同時に使えるのが特徴で、事前学習したモデルを、文章の分類や質問応答などの個別の課題に合わせてファインチューニングして使います。

他の選択肢が不適切な理由
・デコーダで次の単語を順番に予測する：これはGPTの説明です。
・双方向のLSTMで固定されたベクトルを学習する：ELMoは双方向のLSTMを用いますが、固定のベクトルではなく文脈に応じたベクトルを作ります。いずれにしてもBERTの説明ではありません。
・画像をパッチに分割する：これはVision Transformer（ViT）の説明です。

覚え方のポイント
「BERT＝エンコーダ・双方向・MLMとNSP・文章の理解が得意」「GPT＝デコーダ・前から順に・次の単語予測・文章の生成が得意」。この対比はG検定の最頻出事項の一つです。

問95-3

GPT（Generative Pre-trained Transformer）の説明として、最も適切なものを1つ選びなさい。

①Transformerのエンコーダを用い、文中の一部を隠して当てる課題だけで事前学習する。
②Transformerのエンコーダとデコーダの両方を用い、翻訳文の対で学習するモデルである。
③Transformerのデコーダを用い、それまでの単語から次の単語を予測して事前学習する。
④双方向のLSTMで言語モデルを学習し、その内部の状態を単語の表現として使うモデルである。

答えと解説を見る

正解 ③Transformerのデコーダを用い、それまでの単語から次の単語を予測して事前学習する。

解説
GPTは、OpenAIが2018年に発表した言語モデルで、その後、GPT-2、GPT-3と大規模化が進みました。Transformerのデコーダを重ねた構造を持ち、大量の文章を使って、それまでに出てきた単語から次の単語を予測する形で事前学習します（自己回帰型の言語モデル）。文章の生成が得意で、2020年に発表されたGPT-3は約1,750億のパラメータを持ち、少数の例を示すだけでさまざまな課題をこなす「few-shot学習」の能力で注目を集めました。

他の選択肢が不適切な理由
・エンコーダで文中の一部を隠して当てる：これはBERTの説明です。
・エンコーダとデコーダの両方を用い、翻訳文の対で学習する：これは2017年に提案された元のTransformer（機械翻訳のモデル）の説明です。GPTはデコーダだけを重ね、大量の文章で次の単語の予測を学習します。
・双方向のLSTMの内部状態を単語の表現に使う：これはELMoの説明です。

覚え方のポイント
「GPT＝Generative（生成）・Pre-trained（事前学習）・Transformer（デコーダ）」。名前の意味をそのまま覚えれば、BERTとの違いを取り違えにくくなります。

問105-3

文章の中で連続するN個の単語（または文字）をひとまとまりとして扱い、語順の情報を部分的に取り入れる方法として、最も適切なものを1つ選びなさい。

①one-hot表現
②TF-IDF
③形態素解析
④N-gram

答えと解説を見る

正解 ④N-gram

解説
N-gramは、文章の中で連続するN個の単語（または文字）を、ひとまとまりの単位として扱う方法です。Nが1なら1単語ずつ（ユニグラム）、2なら2単語ずつ（バイグラム）、3なら3単語ずつ（トライグラム）となります。たとえば「私は本を読む」を単語のバイグラムにすると「私は」「は本」「本を」「を読む」のようになります。単語を1つずつばらばらに扱うBag-of-Wordsに比べて、単語の並び順の情報を部分的に取り入れられます。

他の選択肢が不適切な理由
・one-hot表現：語彙の数と同じ長さのベクトルで、その単語の位置だけを1、それ以外を0とする表現です。語順の情報は含みません。
・TF-IDF：単語の出現頻度と逆文書頻度から、単語の重要度を計算する指標です。
・形態素解析：文を意味を持つ最小の単位に分割し、品詞を判定する処理です。

覚え方のポイント
「N-gram＝N個ずつ区切る」。Nを大きくすると語順の情報は増えますが、組み合わせの数が急増し、学習データに一度も出てこない組み合わせが増える（データがまばらになる）という問題が生じます。

G検定は一般社団法人日本ディープラーニング協会の登録商標です。本ページは一般社団法人日本ディープラーニング協会とは一切関係ありません。

G検定の対策問題（全480問）に戻る

非公式の資格試験対策サイトです。一般社団法人日本ディープラーニング協会とは一切関係ありません。

※本ページでは、アクセス解析（Googleアナリティクス）と、広告の配信・成果の計測（A8.net）のためにCookie等を利用し、閲覧に関する情報をGoogle LLC・株式会社ファンコミュニケーションズへ送信しています。詳しくはプライバシーポリシーをご覧ください。

※本ページの問題・解説は、生成AI（人工知能）を活用して作成しています。