ニューラルネットワークと活性化関数の一問一答

単純パーセプトロン（入力層と出力層だけからなるモデル）の限界として、ミンスキーとパパートらが指摘した内容として、最も適切なものを1つ選びなさい。

• ①直線で分けられる（線形分離可能な）問題も、まったく解くことができない。
• ②入力の数が2つを超えると、計算量が膨大になって学習が終わらなくなる。
• ③直線で分けられない（線形分離不可能な）問題は、正しく解くことができない。
• ④重みを更新する規則を持たず、学習データから重みを調整することができない。

シグモイド関数の性質として、最も適切なものを1つ選びなさい。

• ①出力は−1から1の間の値をとり、微分の最大値は1である。
• ②出力は0以上の値をとり、入力が正の範囲では微分が常に1である。
• ③出力は0から1の間の値をとり、微分の値は常に1で一定である。
• ④出力は0から1の間の値をとり、微分の最大値は0.25である。

中間層の活性化関数として広く使われているReLU関数の特徴として、最も適切なものを1つ選びなさい。

• ①入力が正ならそのまま出力し、0以下なら0を出すため、勾配が消失しにくい。
• ②入力の大小にかかわらず0から1の値を出力するため、勾配が消失しにくい。
• ③入力が正なら0を出力し、0以下ならそのまま出力するため、学習が安定する。
• ④出力の合計が必ず1になるため、多クラス分類の中間層として最もよく使われる。

ニューラルネットワークの中間層で、非線形な活性化関数を用いる理由として、最も適切なものを1つ選びなさい。

• ①非線形の関数を使うと、誤差逆伝播法を使わなくても重みを更新できるようになるため
• ②線形の関数だけだと、層を何層重ねても1層の線形変換と同じ表現力にとどまるため
• ③非線形の関数を使えば、学習データが少なくても過学習が決して起きなくなるため
• ④線形の関数を使うと、層ごとの出力が正規化されず、学習が必ず発散してしまうため

tanh（双曲線正接関数）の説明として、最も適切なものを1つ選びなさい。

• ①出力は0から1の値をとり、微分の最大値は0.25でシグモイド関数より勾配が消失しやすい。
• ②出力は0以上の値をとり、入力が0以下の範囲では出力も微分も常に0になる関数である。
• ③出力は−1から1の値をとり、微分の最大値は1でシグモイド関数より勾配が消失しにくい。
• ④出力の合計が1になるように変換する関数で、多クラス分類の出力層で用いられる関数である。

あるニューロンに、入力 x₁＝2、x₂＝1 が入り、重みが w₁＝0.5、w₂＝−1、バイアスが b＝0.5 である。活性化関数がReLU関数のとき、このニューロンの出力として、最も適切なものを1つ選びなさい。

• ①1.5
• ②0
• ③−0.5
• ④0.5

ニューラルネットワークにおける「バイアス」の役割として、最も適切なものを1つ選びなさい。

• ①入力と重みの積の合計に加える値で、各ニューロンの反応のしやすさを調整する。
• ②入力データの一部を無作為に消し、学習時の過学習を防ぐために加える値である。
• ③学習データの偏りを数値化したもので、この値が大きいほど公平なモデルになる。
• ④学習率を学習の途中で自動的に小さくするために、エポックごとに掛ける値である。

「十分な数のニューロンを持つ隠れ層が1つあるニューラルネットワークは、どのような連続関数でも任意の精度で近似できる」という定理として、最も適切なものを1つ選びなさい。

• ①ノーフリーランチ定理
• ②普遍近似定理
• ③醜いアヒルの子定理
• ④ベイズの定理

Leaky ReLU関数の説明として、最も適切なものを1つ選びなさい。

• ①入力が負の範囲では出力を常に0にし、正の範囲でも出力を1で打ち切るReLUの改良版
• ②出力を0から1の範囲に収めるため、シグモイド関数をReLUと組み合わせた改良版
• ③入力が負の範囲でもわずかな傾きを持たせ、微分が0になるのを避けるReLUの改良版
• ④出力の合計が1になるように、ReLUの出力をすべての出力の合計で割った改良版

ディープラーニング（深層学習）の「深い」が指すものとして、最も適切なものを1つ選びなさい。

• ①学習の反復回数（エポック数）を、非常に多くとること
• ②人間の脳の奥深くにある神経細胞の働きを、そのまま再現すること
• ③1つの層に含まれるニューロンの数が、非常に多いこと
• ④隠れ層を何層も重ねた、層の数が多いネットワークであること