活性化関数
入力信号の総和を出力信号に変換する関数 $ h(x)
activation function
入力信号を重みつきで足し合わせた結果が、活性化関数によって活性化されることで出力となる
活性化関数の例
ステップ関数とシグモイド関数の比較
グラフを見ればわかるが、ステップ関数は角があり、シグモイド関数はなめらかである。
この滑らかさがニューラルネットワークでは重要な意味を持つ
ニューラルネットワークでは、活性化関数として線形関数を用いてはならない
層を厚くすることに意味がなくなってしまうから
分類問題と回帰問題
ニューラルネットワークは、分類問題(classification problem)と回帰問題(regression problem)の両方に用いることができる