はじめに
G検定で頻出の「全結合層」「重み」「線形関数」の要点を、音楽で記憶に残しやすくまとめた学習曲です。
歌詞は定義の暗記に特化し、試験で迷いやすいポイントを短く正確に言い切る構成です。
AIを活用した楽曲制作
歌詞は生成AI（ChatGPT）で作成し、音楽はAI作曲ツール（Suno AI）で制作しました。
音楽スタイルは教育向けの速めテクノポップとして要約します。
タイトル・歌詞の紹介
タイトル
全結合層覚えうた
歌詞
全結合層は前の層のすべてのノードが 次の層のすべてのノードと結合する層
重みは結合ごとに学習されるスカラー 重みは接続の強さを表すパラメータ
重みは学習で最適化 重みは入力特徴の寄与度を表す
線形関数は入力と重みの加重和に バイアスを加えたもの
線形関数は活性化の前の出力 線形結合＝重み×入力の和＋バイアス
バイアスは出力のシフトを担う学習パラメータ
全結合層のパラメータ数は 入力ノード数×出力ノード数＋出力ノード数（バイアス分）
パラメータが多いほど過学習のリスクと計算コストが増える
全結合層は位置情報を保持しない 線形合成は活性化を通す前の値
重みもバイアスも学習で変わるパラメータ 線形関数は活性化の前の出力
楽曲の視聴
- youtube
- Suno AI
全結合層覚えうた（Suno AI）
歌詞の解説
本記事では、用語は「線形結合」に統一します（歌詞中の「線形合成」と同義）。
計算の流れは「線形結合→活性化関数」です。
全結合層
前層の全ノードが次層の全ノードに接続された層です。
特徴を統合して最終判断に用いられることが多く、パラメータが多くなりやすい点が特徴です。
重み
各結合の強さを表す学習パラメータです。
「どの入力をどれだけ強く通すか」を決め、学習で更新・最適化されます。
線形結合（線形関数）
入力と重みの加重和にバイアスを加えた値で、活性化関数を通す前の出力です。
覚える式はこれだけで十分です。
y=\sum_i w_i x_i + b
\)
バイアス
出力のシフト（平行移動）を担う学習パラメータです。
入力がゼロでも出力を調整できます。
パラメータ数
全結合層のパラメータ数は、以下の式で求めます。
\text{Params}=n_{\text{in}}\times n_{\text{out}}+n_{\text{out}}
\)
過学習と計算コスト
一般に、パラメータが多いほど過学習のリスクと計算コストが増えます。
正則化（L2）やドロップアウト、早期終了などで抑制できます。
位置情報を保持しない理由
全結合層は入力を1次元ベクトルとして扱うため、画像の上下左右などの位置関係を前提にしません。
畳み込み層は位置関係を活かしますが、全結合層は位置を区別しない形で特徴を統合します。
楽曲に込めたメッセージ
定義を短いフレーズで固定し、式を見たときに歌詞がよみがえるよう設計しています。
「覚えるべき最小限」を耳から反復できる学習体験を目指しました。
まとめ
全結合層・重み・線形結合の基本を、音楽とともに素早く想起できるようにしました。
今後もG検定で重要な用語（活性化関数、誤差関数、最適化など）を同様の形式で展開していきます。
コメント