NN
Neural Networkの略
単純なモデルにパーセプトロンがある.
入力層,中間層(隠れ層),出力層の3種で構成される.
次の層に出力が行くまでに,入力に対する重み付きの和を計算し,それを活性化関数に入れる.
関数によって次の層への出力が定まる.
層はどこまでも深くできるが,そうしたモデルをDNNと呼ぶ?
層が深いと,モデルによっては勾配消失の可能性があったはず.