グッドハートの法則
ある尺度が目標となったとき、それは良い尺度ではなくなる
キャンベルの法則 – 「定量的社会指標が社会的決定に使われれば使われるほど、それは腐敗の圧力にさらされやすくなる」 コブラ効果 – 問題を解決するために設計されたインセンティブが、結果として問題を悪化させた人々に報酬を与えることになる現象 確証バイアス – 自分の事前の信念を裏付ける、あるいは支持する情報を検索し、思い出す傾向 ホーソン効果 – 観察されているという認識に反応して、人々が自分の行動の一部を変更する現象 ルーカス批判 – 過去のデータで観察された関係のみに基づいて経済政策の変更の影響を予測しようとするのは素朴であるという観察 地図-土地関係 – 具体化の誤謬の一種で、モデルがモデル化されている対象そのものと混同されること Metric fixation
Model collapse
過剰適合 – 特定のデータセットに密接に、あるいは正確に対応しすぎている分析 ピーターの法則 – 個人は新しい役職での役割ではなく、以前の役割での成功に基づいて昇進するという法則 Reification (fallacy)
Reflexivity (social theory)
報酬ハッキング – 人工知能が、意図した結果に達することなく、不十分に指定された報酬を最適化した場合に発生する Surrogation – ビジネスにおいて、関心のある構成要素の尺度が進化してその構成要素に取って代わること