飽きることと過学習
ニューラルネットは本人の意向と無関係に繰り返し同じデータを
学習
させられるという非人間的な扱いをされがち
ニューラルネットの虐待
人間の場合は、
退屈
だ、飽きた、と考えてウェイトを下げる
飽きる
ことで
過学習
を避けているのではないか?
逆に、見慣れないこと、意外な現象が起きると、興味を持って集中力が高くなる
好奇心
予測可能性
が高いデータに対しての学習係数が自動的に減少し、予測と違う現象が起きた時には学習係数を上げる
エンジニアの知的生産術
のp.84で説明した
馴化
やp.88で解説した
適応的ブースティング
と関係していそう