自由エネルギー原理の勉強アーカイブとメモ(知覚過程)
/naturence183
自由エネルギー原理(Free Energy Principle; FEP)、時々目にするけど数式レベルで何をしているのかがよくわかってない
自由エネルギー原理をわかりたいが・・・
能動的推論: 心、脳、行動の自由エネルギーの読書メモ能動的推論: 心、脳、行動の自由エネルギーの読書メモ.icon
能動的推論本は普通に読みにくくて諦めたので別の本でリベンジ。
自由エネルギー原理入門: 知覚・行動・コミュニケーションの計算理論
Naa_tsure.icon今回は知覚についての自由エネルギー原理的な説明を勉強してみる
https://www.youtube.com/watch?v=q5uMzUtCFGk
メモ
状態をどのように扱うか
状態方程式で表現する
https://scrapbox.io/files/648450fc9a0398001cd5a572.png
https://scrapbox.io/files/6484511950e5cc001b4fe218.png
この辺りで勉強したことの延長
ベイズ推定の勉強配信アーカイブ(NMA Bayesian Decisions)
ドリフト拡散モデルの勉強配信アーカイブとメモ(NMA Hidden Dynamics)
隠れマルコフモデル(カルマンフィルタ)の勉強配信アーカイブとメモ(NMA Hidden Dynamics)
部分観測マルコフ決定過程(Partially Observable Markov Decision Process; POMDP)
ベイズの定理について
https://scrapbox.io/files/6484512fe015bf001b353bb0.png
https://scrapbox.io/files/64845140bdfa53001c7ecbad.png
MAP推定(maximum a posteriori: MAP)について
https://scrapbox.io/files/6484517092ed06001bcb36a2.png
ベイズの定理における分母を求める計算がどう考えても無理がある件について
$ p(x|y)=\sum p(y|x)p(x)という計算が必要だが、考え得る全ての状態xについて毎回計算できるか・・・？
Naa_tsure.icon多分ムリだから、ベイズで計算される事後分布に近似することを考える
https://scrapbox.io/files/64845184504f0b001b20f502.png
近似する手法としてKLダイバージェンス(Kullback–Leibler divergence)を採用する
Naa_tsure.iconここの採用理由が知りたい
https://scrapbox.io/files/64845198d2b5ca001c706c8d.png
KLダイバージェンス(Kullback–Leibler divergence)を式変形してみると、状態xに依存する項と依存しない項が出てくる
KLダイバージェンス(Kullback–Leibler divergence)=自由エネルギー原理(Free Energy Principle; FEP) - シャノンサプライズ
真の事後分布との差を小さくするにはKLダイバージェンス(Kullback–Leibler divergence)を最小化すればよい
シャノンサプライズは状態ｘに依存しないので、
KLダイバージェンス(Kullback–Leibler divergence)を最小化するには、自由エネルギーを最小化すればよい
https://scrapbox.io/files/648451b99a0398001cd5a8fb.png
離散バージョンで計算してみる
$ q(x)の値を変化させていって、自由エネルギー原理(Free Energy Principle; FEP)の変化を調べる
この$ q(x)の決め方は脳内でどうなっているのか
Naa_tsure.iconでも脳内ならそもそも連続値では？
https://scrapbox.io/files/648451d4e5788f001b64cba3.png
連続値の自由エネルギーの最小化を考える
自由エネルギーをガウス分布(平均,分散:$ \mu,\sigma)で表したい
https://scrapbox.io/files/648451e9c32962001cb0c1a5.png
細かい計算過程について
https://scrapbox.io/files/648451fe1ec4fe001bd17e5f.png
自由エネルギーの最小化を勾配降下法(Gradient descent)によって行う
偏微分が0になるという条件から、分散の最適値が変化しないことがわかる
追記: #2023/6/15 分散Σの最適値が$ \muの関数で書くことが出来る
つまり自由エネルギーを最小化するような$ \muだけを考えれば勝手に最適な分散は求まる
Naa_tsure.iconこの$ \muが神経活動で表現されているという立場らしい
https://scrapbox.io/files/6484520ec77e6a001bdaf13f.png
勾配降下法(Gradient descent)における$ \mu更新則を考える
https://scrapbox.io/files/648452225fe2be001c4d1254.png
Naa_tsure.icon変分作用について調べる
#2023/6/10