因果推論の科学

前職の偉い人達がめっちゃ注目してるらしいので買った。分厚い本で中身も難解だけど背伸びして読んでみる。

既存の生成AIベースのアプローチでは因果推論はできないので外部モデルを導入する必要がある

エキスパートシステムを作りたい？

筆者は強いAIは作れるという立場

見慣れない用語に面食らっている

因果モデル

エスティマンド

反事実

検証可能な合意

ユヴァル・ノア・ハラリを引用してて一瞬身構えている

三段のはしごモデル

観察

介入

想像

ChtatGPTが肉体を手に入れて自律的に外界の情報を集め始めたら「行動」できてることにならん？

なんかどうしても「いうてChatGPT以前だしな」みたいなうがった読み方しちゃう

面白い

「因果関係の概念は確率の概念よりも基礎的で重要なものだ」「私は人間の直感の基礎には、統計的な関係ではなく因果関係があるのではないかと思っている」

本当だろうか？

脳科学の本で因果関係を見出す度合いとニューロンの結合の関係が言及されていた気がする

ダニエル・カーネマンを引用してて再び身構える

二項分布

回帰直線

平均への回帰

データから因果を導けない。分かるのは相関だけ

本当？

サンプリングレートが足りてないだけでは？

因果関係を確かめたかったら（Aが変わる→Bが変わる）の途中のデータを取れたらよいのでは？

制御の知識があるともっと上手に解釈できそう