飽きることと過学習
ニューラルネットは本人の意向と無関係に繰り返し同じデータを学習させられるという非人間的な扱いをされがち
ニューラルネットの虐待
人間の場合は、退屈だ、飽きた、と考えてウェイトを下げる
飽きることで過学習を避けているのではないか?
逆に、見慣れないこと、意外な現象が起きると、興味を持って集中力が高くなる 好奇心
予測可能性が高いデータに対しての学習係数が自動的に減少し、予測と違う現象が起きた時には学習係数を上げる
エンジニアの知的生産術のp.84で説明した馴化やp.88で解説した適応的ブースティングと関係していそう