2026a 第09回:生成AI

小テスト

2件分まとめて実施します

講義

AI (2)

パーセプトロン

入力・重み・繋げ方　は実際どう定義されてAIができるのか？

1. 繋げ方 (ネットワーク構造) ... 人間が設計する

層の数、各層に何個のパーセプトロンを置くか

e.g. 画像 => CNN / 文章 => Transformer・RNN / 表形式 => MLP

MLP

基本形、ある層の全ニューロンが次の層の全ニューロンへ繋がる

https://gyazo.com/1f965b3542eea9a7cb7e4f0d422c2b4f

RNN (文章、音声認識等)

隠れ層の状態を次の「時刻」へ送る、時系列での再帰処理

https://gyazo.com/75b18f1a6f5c01d7476be5aa0470aa7d

タスクが複雑であるほど層を深く・ニューロンを多く (計算量は増える)

2. 入力 ... タスクによって決まる

画像認識 ... 各ピクセルの色の値

音声認識 ... 音の波形

言語モデル ... 単語・トークンのID

重みの初期値は(小さい)ランダム値から始める

i.e. Xavier初期化、He初期化

その後、教師データとのズレ(誤差)を計算し、出力層から入力層に向かって逆算的に伝搬・修正していく

i.e. 勾配降下法、誤差逆伝播法

すごいところ

「特徴量」の抽出・検出は人間が定義する必要がなく、中間層の重みとして自動的に学習される！

※入力データにそもそも含まれない特徴量は当然抽出できない (不動産の周辺治安等)

Teachable Machine

講師が前でデモします

講義終了後、演習タイム

e.g. メガネあり・なし / ボールペンと万年筆 etc

ペアワーク可