reparameterization trick
確率分布を微分可能な確定的関数に置き換えるテクニック
https://ja.wikipedia.org/wiki/変分オートエンコーダー
VAE
の論文で言及されてるっぽい
https://stats.stackexchange.com/questions/199605/how-does-the-reparameterization-trick-for-vaes-work-and-why-is-it-important
https://gyazo.com/5b8478559d84a17783c41ae7ff34fa03
これが分かりやすい
特定の分布から値をサンプルする必要があるとき、そのランダム性があるせいでbackwardの計算ができない
そこで、ランダム性は別の部分から挿入するかたちにする
式変形したり
別の式を使ったり
そうすると、目的のパラメータまでbackwardできるようになる