動機づけられた推論、確証バイアス、ノイズ付き囚人のジレンマ
確証バイアスっぽく議論で自分の立場に有利な証拠を集めたりする動機づけられた推論は、相手も動機づけられた推論をしていると困るから仕方なくという囚人のジレンマ的な構造になっているのではないか。 しかも、相手が本当に本当に動機づけられた推論しているかの判断自体が確証バイアスに影響を受けるのでノイズ付き囚人のジレンマっぽい。
さてさて、この囚人のジレンマを、より現実に近づけてみます。「協調」カードを出しても、一定の確率で「裏切り」カードに変わってしまう、というルールをつけてみましょう。要するに、メッセージが「誤解」されちゃう場合です。自分では「君のその服、とてもにあうよ」と言ったつもりなのに、いつのまにか「君のその服、とてもにおうよ」とかに変わってるわけです。恐ろしい世界です。
この世界では、しっぺ返し戦略は最強ではありません。なぜかというと、しっぺ返し戦略同士の戦いで、いったん「誤解」が発生して「裏切り」カードが場に出てしまったとたん、相手が報復→それに対して自分が報復→それに対して相手が……という報復の連鎖が起こり、得点が落ちるからです。
ノイズ付き囚人のジレンマモデルは、人が議論で知的に誠実になる気が無くなり派閥に分かれてしまうことや、政治的分極化が起こることのモデルとして役に立つのではないかと思う
(党派が作られるのは、単に信頼できる人の信頼する人を信頼するというようなヒューリスティックを使っているからというのもあるだろう。そして、野球の応援のような面もある。)
(相手が動機づけられた推論をしていることを立証しようとすると、もし相手が推論過程を明らかにしていないなら、論点になっている点について相手の結論だけから推論過程・動機を推測することになるため論点先取になりがち? c.f. Bulverism)
人々が動機づけられた推論をしている可能性がある場合、自分も他人を信頼できるか評価する上で他の人の動機を考えなければならなくなる。
「あまりに相手の動機にあっているので怪しい」というような推論は、特に論点自体からの逆算を必要とするということによって自分サイドの動機には甘い場合、防衛的な動機に関する推論と言えそうだ。
しかし相手からすれば防衛的な動機に関する推論と攻撃的な動機づけられた推論が区別できず、安全保障のジレンマになるということも考えられるかも?
池田 謙一 (著), 唐沢 穣 (著), 工藤 恵理子 (著), 村本 由紀子 (著)『社会心理学 補訂版 (New Liberal Arts Selection) (日本語) 単行本(ソフトカバー)』p.35「1-3 推論における動機や目標の影響とそれに対する無自覚さ」で、動機づけられた推論についての同じようなテーマについての指摘があるのを見つけた。
Politics is an extension of war by other means. Arguments are soldiers. Once you know which side you’re on, you must support all arguments of that side, and attack all arguments that appear to favor the enemy side; otherwise it’s like stabbing your soldiers in the back—providing aid and comfort to the enemy. People who would be level-headed about evenhandedly weighing all sides of an issue in their professional life as scientists, can suddenly turn into slogan-chanting zombies when there’s a Blue or Green position on an issue.
相手がフェアでないなら、自分がフェアになる気というのは失せるだろうということで、囚人のジレンマになるということ
Tu quoque
動機づけられた推論についての考えは、traditional rationalityとBaysian rationalityで考えが異なるかも。
囚人のジレンマであるならば、「知的誠実さがあれば問題解決する」というのは「善意があれば問題解決する」というのに近いものがある。(そういう場合もあるだろうが)
じゃあ、精神論にとどまらない、制度的な解決ってどんなもの?
これくらい厳密にやれば両サイドを読む必要もないだろうくらいの閾値はかなり高いところにあるんだろうな。
なぜ良い傾向があると思ったかといえば、メタレベルの議論が非生産的な場合が経験上多いからだった。あるいは、議論するより個人の経験や判断に任せることのほうが生産的に思えた。囚人のジレンマ
(経験上、確証バイアスに陥ってる人に「確証バイアスに陥ってるよ」って言うより、オブジェクトレベルで議論したほうがいい。
その方が論点先取になりにくい。)
しかしメタレベルでも厳密/生産的な議論をする方法を考えることのほうが有益かもしれない。
(よってメタなことについても挙げておこう:
meta-analysisを行う/参照する。
)
(追記: というか以下の箇条書きはメタな議論やmotivated reasoningの可能性を過度に重視する相対主義者への反発で書いているだけだから、そういう文脈なしで見るとあまり私がここで書く必要がない (単に統計の教科書を読むべき) 話では)
→
定量的手法
チェリー・ピッキングに対する対抗策となる
サンプリングのバイアスを避けるため、網羅的に全列挙 (母集団が小さい場合もしくはコンピュータで処理可能な形式の場合)
チェリーピッキングか知るのは有益なのでどうやってその事例を取ってきたのかを明記するべきだ
仮に偶然見つけたのなら、そのように経緯を明記すると良い
嘘の可能性は排除できないにしても、チェリーピッキングはどちらかというと悪意なく行われる場合が多いだろうから、悪意のないチェリーピッキングの可能性が排除できることによる情報量は大きいだろう どのリンクをたどってきたのか「via 〜」「from 〜」で示す
同様の理由から、(n=いくつ)と明記する
nの具体的な数字がわからないなら、推定でn~mとする
どうも自分の経験でも、2~3の事例から一般化することがあり、これは人間のデフォルトなのかもしれない(という一般化はn=??? 人数で言えば1だろ!)
決定実験
帰無仮説を真剣に検討すること
異なる意見の人が議論を戦わせる環境
同じデータに複数の説明を与えること
誤った考え/無知/不合理性を持つと自分自身が損をする状況
対立する論者が、お互いに、強いと思う小数の根拠・議論 (のみ) を紹介すること
なぜなら何でもかんでも根拠を紹介するとオブザーバーは全部を処理できなくなって、自分の信念を補強するものを拾い読みすることになりかねないからだ
もしくは強さ (自信としての) を表す数字をつけておく。総和として比べる。
この結果からすると、「議論」というのも必ずしもうまくいくわけじゃない
裁判員制度になってからは検察? は証拠を何でもかんでも出すのではなく(専門家じゃない裁判員に大量の証拠を聞かせるのは酷だから)、重要なのに絞って伝えるみたいな話を聞いたことがあるし、そういうのがいいのではないか
出版バイアスへの対抗策として、サンプルサイズを大きくする。もし動機づけられた推論で出版バイアスの疑いがある場合、自ら進んで大きなサンプルの調査を行い、相手に調査責任を押し付けない。
意図が影響しないように、盲検法みたいな方法を使う
自分が使った論法が自分に向けて使われたらどうなるか考える (反転可能性テスト)
感情を喚起しないような議論に置き換えや関連付けなどを使って持っていく
なぜ物理学より心理学の方がバイアスに弱いか
事前確率
「仮に動機づけられていてもきちんと証拠を出していればその信念は正当化されている」というのは、動機づけられて一方の証拠しかみないというプロセスは信頼できない (もし最初から結論を決めたならいくら後から証拠を与えようと、言及対象となる実在とその結論の間の相関は消滅してしまう) のでおかしいけど、議論の過程を通せば社会全体としてみれば結果的にはいろいろな動機の人がいろいろな証拠を出してくるから信頼可能なプロセスの一部にもなりうる
弁護士と検察側は明らかにバイアスがあるが、それでも法廷というシステム全体としては各要素にバイアスがあることでよく機能する、というのは、どう考えればいいのだろう。
三中氏は分類学内の激しい党派対立についてそのようなことを言っていた
このような意図の影響が懸念されるときでも、対照実験のような手法を使うことで、動機を越えて議論ができる
バイアスの議論はBravery Debateになりがち?
自分について{命題Pについて動機を持った人間である, 命題Pについて証拠を持った人間である}という2つの可能性がある状態で自分が2つ目のタイプであるというシグナリングをする
お互いに無関係な理由をある命題に対していくつも出すと、動機づけられているのではないかと疑われる
その否定/反対についてもお互いに無関係な理由をいくつも出すならそのような必要がないかも
Nozick "no-coercive philosophy"は確証バイアスを補強する?
実弾をもってヘゲモニーを撃たなければならないという記事のようなものは敵が知的に不誠実かもしれないというノイズによって「我々」もまた知的に誠実でなくていいのだという気にさせることがその要旨と思える (というのも内容ではなく利害関心に注目した批判であるけれど)。 ポストモダニストが中立性は欺瞞、とかいうのはこのようなノイズではないか
相手も毒ガスを使ってる ! !というような。
When I was an undergraduate, I believed that the prevalence of positivism in the social sciences – the idea of studying social phenomena in an “objective” or “value-free” manner – was one of the great evils in the world. Not only was it an illusion, but it was a harmful one, because beneath the guise of objectivity there lay a hidden agenda, namely, an interest in domination. Treating people as objects of study, rather than as subjects, was not politically neutral, because it generated a type of knowledge that just happened to be precisely of the sort that one would need in order to manipulate and control them. “Objective” social science, in other words, was not value-free at all, but rather a tool of oppression.
The alternative to this, warmly recommended at the time, would be a new form of social science, one that was explicitly guided by the “emancipatory” interest of human reason. Rather than striving for an elusive value neutrality, it would instead adopt a commitment to improving the human condition, then make these commitments explicit, as part of the inquiry, so that the entire exercise would be methodologically transparent. This is what we called “critical theory.”
このような問題を避けるため、「動機のようなメタ的な部分ではなく、オブジェクトレベルの内容について、その真偽を議論することを重視すべきだ」という対応が良いと思った。
しかし動機付けられた推論に注目するのが必ず悪いと言うより、自分のもともとの意見を確証するようなものだけに注目してしまう、自分と意見の違う人だけが動機づけられた推論をしているように見るところに問題があるかもしれない。
このような側面は動機づけられた推論に限らず、あらゆる認知バイアスに当てはまる。
しかし……いまから思うと、ポストモダニズム的な考え方に触れたのなら"相対主義者"になる方が自然なのであり、"批判理論マインド"を持つようになる方が不自然であったのだ。
前者はポストモダニズムの考え方を額面通りに受け入れた結果、右も左も関係なく、なんにでも疑いや批判の目を向けている。一方で、後者は疑いや批判を向ける対象を「権力っぽいもの」「強者っぽいもの」「マジョリティっぽいもの」に限定して、そうでないものはスルーしている。なにを批判してなにをスルーするか、という選別には明確な基準があったわけでなく、"お約束"や"空気"になんとなく従っていた。「これは悪どいから批判の目を向けるべし」という対象とそうでない対象とをあらかじめ選別していて、前者にだけ批判の目を向けていたのだ。
ここでいう批判理論のほうに当たるが。
Optimistically, postmodernism isn’t necessarily opposed to rationality: rationality says to believe what is true, and it’s true that people are often trying to manipulate us. Hopelessly optimistically, both groups are engaged in the same project of overcoming bias, just taking different perspectives.
But pessimistically, there’s a risk that postmodernism collapses into people ignoring any facts they disagree with, arguing that facts are just mutable products of hostile power structures trying to perpetuate themselves. And by “pessimistically there’s a risk”, I mean “this has obviously been going on for decades”. Again, I’m not just complaining about lefty professors here. The guiding narrative of Breitbart – that Cultural Marxists have taken over society and are indoctrinating everyone with their own concepts and language in order to make it impossible to think outside their boxes – is postmodernist as hell.
This leads to the classic freshman-philosophy critique of postmodernism: “Postmodernism says nothing is objectively true and it’s all just opinion. But in that case, postmodernism isn’t objectively true and it’s just your opinion.” Make this a little more sophisticated, and we can get an at-least-sophomore-level critique: “Postmodernism says that facts have enough degrees of freedom that they often get reframed to support the powerful. But there are bucketloads of degrees of freedom in how to use and apply postmodernism; it’s inevitably going to itself be twisted to support the powerful.” Whether “the powerful” are cultural Marxists, or far-right media, or whatever, gets left as an exercise for the reader.
「"powerful"なのが誰か」というのこそ、他の問いに比べても自由度が高そうな問いだ。
何でも権力の問題にするポストモダニズム自体が権力に利用されるというのは、『1984年』の状況に近い。
(私は合理性/非合理性の話をしているのであって権力/非権力の話をしているわけではない――権力を支持する結論でなかったとしてもその人が持っている元々の信念を補強するだけの証拠を認めるようになり、当たらない予測を出すようになったなら失敗と考える)
I think Hannah Arendt said that one of the great achievements of Stalinism was to replace all discussion involving arguments and evidence with the question of motive – Christopher Hitchens
I know it is the fashion to say that most of recorded history is lies anyway. I am willing to believe that history is for the most part inaccurate and biased, but what is peculiar to our own age is the abandonment of the idea that history could be truthfully written. In the past people deliberately lied, or they unconsciously coloured what they wrote, or they struggled after the truth, well knowing that they must make many mistakes; but in each case they believed that ‘the facts’ existed and were more or less discoverable〔歴史ではないが、二重真理説は?〕. And in practice there was always a considerable body of fact which would have been agreed to by almost everyone. If you look up the history of the last war in, for instance, the Encyclopaedia Britannica, you will find that a respectable amount of the material is drawn from German sources. A British and a German historian would disagree deeply on many things, even on fundamentals, but there would still be that body of, as it were, neutral fact on which neither would seriously challenge the other. It is just this common basis of agreement, with its implication that human beings are all one species of animal, that totalitarianism destroys. Nazi theory indeed specifically denies that such a thing as ‘the truth’ exists. There is, for instance, no such thing as ‘science’. There is only ‘German science’, ‘Jewish science’ etc. The implied objective of this line of thought is a nightmare world in which the Leader, or some ruling clique, controls not only the future but the past. If the Leader says of such and such an event, ‘It never happened’ – well, it never happened. If he says that two and two are five – well, two and two are five. This prospect frightens me much more than bombs – and after our experiences of the last few years that is not a frivolous statement. マルチエージェントベイズ認識論、社会ベイズ認識論