ジョセフ・ヒース『ルールに従う』

Oxford, England: Oxford University Press (2008)

まとめ

行為論(? 実践的推論(?

道具的合理性モデル (合理的経済人的なの) の批判をしている。

人は結果だけを気にするわけではなく、手段が規範に従っているかどうかを気にする。さらに、そのことは不合理なわけではない

カントの定言命法のように、目的は (それだけでは必ずしも) 手段を正当化・合理化しない という意思決定の枠組み

実験ゲーム理論の実験結果として見られる協力行動や、人間が築いている社会秩序は道具的合理性モデルでは説明できない (第二章)。

コーディネーション問題、集合行為問題

言語行為・コミュニケーションも説明できない

規範に従うことは合理的行為の一部である。

規範遵守は 規範遵守の行動主義的解釈 (や社会学者(?)) が言うように不合理な心理プロセスに尽きるわけではない

意思決定理論が前提としている信念や効用といった志向的状態は、規範に則った社会実践に依存して存在している (第四章)

また、選好の非認知主義・情動主義に反して、選好と行為の形式的な関係だけでなく、規範や欲求の内容自体も、信念と同じように合理的反省に服するのであり、完全に合理性を超えた心理プロセスの産物でしかないわけではない (第五章)

欲求・規範の場合も、信念の認識論に似た正当化の構造を持つ (整合基礎づけ主義、確証の全体論、文脈主義)

情動だけから選好内容は確定しない

人間の大規模社会性は直接 進化論的な適応として説明できるのではない。模倣性、規範同調性が進化で備わった結果として、文化進化が起こり、それによって実現した (第六章)

規範に従うことは、合理性に反しないばかりか、合理性が要求することでもある (第七章)

道徳性の基盤は感情・共感だけではなく、その全体的な形式についても個々の内容についても、合理性と関係する

規範遵守的に振る舞うことは合理的意思決定の一部あるいは前提であり、

また個々の道徳の内容は合理的反省に服する

// 一般的な(合理的)行為論の枠組みの中における道徳性の位置づけ

// 目的は手段を必ずしも合理化しないという観点、行為・道徳に関する理性の役割の強調 といった点でカント主義的な行為論の枠組みを提示している

道具的合理性(仮言命法) vs. 規範遵守(定言命法)

(行為の一般理論における選好内容) 快楽 vs. 理性

(道徳内容における) 共感 vs. 理性

ヒューム(or ホッブズ) vs. カント

志向性の理論においても、推論主義の源流をカントとするならカント的

経験論者が直観を強調するのに対し、概念の役割を強調する

(そういう「カント的」みたいな謎の述語で一般化するのはどうなのかというのはあるが)

哲学界において立場を軸とした論者の分布をクラスタリングするとそういうクラスターが現れる(?)

arational (合理性を超えた)

immoral

amoral

第五章の、認識論における信念の正当化に関する議論を、行為・欲求の正当化に応用する議論が非常に興味深かった。

これは私の考えを大きく変えた本だ

私は快楽主義のように、行為の理由は結局感情に遡れると思っていたが、それに対する反論が載っている

Kindle版を買って読み直した。以前書いたのは間違っていたのが多かった。間違っていた部分は消した。(編集履歴は右から見ることができる)

ヒースは「意思決定理論は志向的システムに基づく意思決定をモデル化しようとするものだ」と考えていると思うけど、強化学習的なエージェントの振る舞いをモデル化するための (強化学習モデルをそのまま使うよりも) 簡便なモデルとして意思決定理論を用いることはできないのだろうか。

「無意識に自分の利益になることをしている」

意思決定理論が志向的システムにもとづく意思決定をモデル化しているなら、双曲割引の話はどう位置づけられるのか

第一章 道具的合理性

意思決定理論の導入

第二章 社会秩序

人間が築いている社会秩序は道具的合理性では説明できない

懲罰によって社会秩序を説明しようとするのは、懲罰自体がコミットメント問題を生み出すため、うまくいかない

planning theory: 個々の行動ではなく計画が評価の単位で、何も新しい情報がなければ計画を見直さずそのまま実行する。

お互いのソースコードを読めるAI同士の囚人のジレンマ

Timeless Decision Theoryはplanning theoryなのか? Timeless Decisition Theoryでは、ルールを決める動作自体がそのルールに則っている?

updateless decision theory はupdatelessというくらいだからplanning theoryな気がする。

第三章 義務的制約

エミール・デュルケム、タルコット・パーソンズ: 社会的サンクションは逸脱行動から行為者が得る利益を相殺する損害を与えるという役割を持つだけではない

内面化させる

規範遵守行動の行動主義的解釈

風習とか伝統、マナーみたいな慣習を例に出すと不合理な感じに見える

期待に沿う

行動主義的に解釈された規範遵守は道具的合理性を超えているのか?

意思決定理論の拡張

maxim, principle

自分のポリシー?

人が○○すべきかどうか、規範について不確実性を持つ場合はどう扱われるのか

たとえば、殺人という行為は結果を含んでいるわけだけど

死ぬかどうかには不確実性がある

しかしその不確実性は他のエージェントの行為に依存する不確実性ではない?

救出行為

包丁で刺すという行動によって結果的に死ぬというのと、暴走トロッコの路線を切り替えることによって結果的に死ぬというので、前者は殺人という行為だが、後者は見殺しという行為であるというのはなぜか

意図?

結果として人が死ぬことを予期しているにも関わらず暴走トロッコの路線を (より多くの人を救うという場合ではなく) 気まぐれで切り替えてたり、自分の物が破壊されるのを食い止めるために切り替えたりした場合はやはり殺人になるのでは

公共財ゲームで、協力するべきというprincipleは、なにかの不確実性によって達成されなかった場合も、行為だけで充足される?

好奇心

信頼の説明

小さな協力からはじめ信頼を確立する

自分の規範遵守性についてのシグナリングを行っている

第六章「自然主義的パースペクティブ」

スタンダードなゲーム理論では人は (最後符牒ゲームのような文脈で) 他人を乱数生成器のような物とおなじように扱うと言っているけど、ゲーム理論では他人の行動に確率を割り振るのではないし、スタンダードなゲーム理論でも物と人には違いがある気がする

利他性は進化の結果か? という問題

// 合理的意思決定理論における協力と、進化生物学における利他性で、どのように扱いが変わっているか

進化生物学の場合、遺伝子もルールのようなもので、個々の状況で「やっぱやめた」とならないので、planning theory的な側面がある?

利他性は適応度の観点から、協力は自己利益の観点から定義されるらしい

利他性は進化心理学用語、協力はゲーム理論用語ってかんじなのかなー

コーディネーション問題について、ナッシュ均衡では不確定でも、進化ゲーム理論を使えば均衡が選択できるということはないのか

"12) この議論を通して, 私は「遺伝子」とは正確に何かという問題については不可知論者であり続けている. Lenny Moss, What Genes Can't Do (Cambridge, Mass: MIT Press, 2003)を見よ.…" p.291 脚注12

//ところで、利己的遺伝子の振る舞いは、ほとんど精神を同期した幾つかの機械肉体の行動とのアナロジーで理解するのがいいかもしれない。

//他の機械肉体に自分の精神のほとんどが残っているなら、寿命が近い機械肉体にとって自己犠牲的行動は容易だろう。

"多細胞生物が単性生殖生物の社会であることを考えれば、有性生殖こそが利他性に対する障害となっていることが分かる。"p.293

リチャーソン

ただの文化なら別に普遍的でなくてもいいので、何らかの普遍性がある文化というのを説明するには文化進化にうったえる必要がある?

But sometimes evolution appears to solve group selection problems. What about multicellular life? Stick some cells together in a resource-plentiful environment, and they’ll naturally do the evolutionary competition thing of eating resources as quickly as possible to churn out as many copies of themselves as possible. If you were expecting these cells to form a unitary organism where individual cells do things like become heart cells and just stay in place beating rhythmically, you would call the expected normal behavior “cancer” and be against it. Your opposition would be on firm group selectionist grounds: if any cell becomes cancer, it and its descendants will eventually overwhelm everything, and the organism (including all cells within it, including the cancer cells) will die. So for the good of the group, none of the cells should become cancerous.

…

In other words, group selection can happen in a two-layer hierarchy of nested evolutionary systems when the outer system (eg multicellular humans) includes rules that the inner system (eg human cells) have to follow, and where the fitness of the evolving-entities in the outer system depends on some characteristics of the evolving-entities in the inner system (eg humans are higher-fitness if their cells do not become cancerous). The evolution of the outer layer includes evolution over rulesets, and eventually evolves good strong rulesets that tell the inner-layer evolving entities how to behave, which can include group selection (eg humans evolve a genetic code that includes a rule “individual cells inside of me should not get cancer” and mechanisms for enforcing this rule).

You can find these kinds of two-layer evolutionary systems everywhere. For example, “cultural evolution” is a two-layer evolutionary system. In the hypothetical state of nature, there’s unrestricted competition – people steal from and murder each other, and only the strongest survive. After they form groups, the groups compete with each other, and groups that develop rulesets that prevent theft and murder (eg legal codes, religions, mores) tend to win those competitions. Once again, the outer layer (competition between cultures) evolves groups that successfully constrains the inner layer (competition between individuals). Species don’t have a czar who restrains internal competition in the interest of keeping the group strong, but some human cultures do (eg Russia).

進化システムの層が2つ重なっていて外側 (多細胞生物など) が内側がどう振る舞うかに関するルールセット (この場合共有された遺伝子) を持っているとき、懲罰システム (ガン細胞の破壊など) を行うシステムができて群淘汰が成立しうる

働きアリが働かずに子供を産みはじめない理由(姉妹アリの子供を食べちゃう) (『生き物の進化ゲーム』)

社会秩序を維持するルールとして子供を食べる行動があるのBaby-Eaterじゃん

・War and/or Peace (2/8)

・The Super Happy People (3/8)

・Interlude with the Confessor (4/8)

・Three Worlds Decide (5/8)

・Normal Ending: Last Tears (6/8)

・True Ending: Sacrificial Fire (7/8)

・Epilogue: Atonement (8/8)

増殖したがん細胞を白血球が食べるのと同じように、働きアリなのに子供を産んだ働きアリの子供を姉妹働きアリが食べ、利己的個体の増殖を抑制する

第七章「超越論的必然性」

//超越論的に妥当な演繹とは、前提が成り立つ全ての超越論的に可能なモデルにおいて、結論が成り立つような推論です。

セラーズは言語ゲームのポジションが「私が今○○すべき」という意味になるためには主体が○○を動機づけられていなければならないと言ったのであって、普遍的道徳について言ったのではないのではないか

合理性が道徳に依存しているとしても、「非道徳になることを、合理的に選択することは可能か」という問題が、「非合理になることを、合理的に選択することは可能か」という問題に置き換わって現れるのではないか

順番に発表してて周りが自分に拍手しているとき無意識に自分で拍手しちゃわないようにすること

インターネット規範が、「○○なツイートが注目されやすい」からそれの模倣によって規範化する可能性?

我々は、「〈話題〉、…」というTwitterでの語り方を使う慣習があり、。

2人いればその2人だけの利益を追求する共同体というのは可能か?

第八章「意志の弱さ」

「挫折感は, 生命体が無限ループに陥ることを防ぐという重要な機能を果たしている. コンピュータがこうしたループにはまる(すなわちコンピュータがクラッシュする)頻度は, こうしたことに陥らないシステムをデザインすることがいかに難しいことなのかを示している. アリのように認知能力があまり洗練されていない生物は, ときおり無限ループにはまり(こうした無限ループのあるものは人間の実験者によって構築されたものである), 死ぬまで何度も何度も成功することのない同じ活動を繰り返す. しかし我々

の脳は, コンピュータやアリと同じ仕方で「クラッシュ」することが決してない」p. 400

https://youtu.be/K6gmBCjpJQ8

ヒースは教育はコストリーシグナリングであるという説について、

これは能力が高い人と低い人を分けるシグナリング均衡ではなく

時間選好が高い人と低い人を分けるシグナリング均衡なのだと言っている

時間選好が低い人にとっては将来のためにいま勉強を頑張ることがローコスト

時間選好が低い人が仕事ができるというのは、将来の給料のために、いま苦しいことでもできるから?

結果に伴う利益に比べ不道徳な行為をする／計画することに伴う心理的コストが大きく感じるため、時間割引を多くする主体のほうが道徳的に振る舞う可能性?

第九章「規範倫理学」

遺伝子と文化の共進化

ヒースとデネットとでは、ミーム概念 (特にその遺伝子とのアナロジー) の有用性という点で対立がありそうだ。

ミームの突然変異は向きがあるのか? など。(ヒース:ある、デネット:ないことも多い)

道徳的言明はルールへの指示を含んでいないのになぜ道徳的主張の経験的相関物としてルールが必要なのだろうか。

論理学の相関物として論理法則は必要なのか?(欲しいなら、論理的可能世界で代用できるかもしれない。

同等に、道徳的に許容される(可能)世界が存在したら代用できるのか?)

様相的語りの経験的対応物として、自然法則・形而上学的法則などというものが存在しなければならないのか?

「善」を全ての善なる行為や状態の集合などと解釈するような意味論に何か問題があるだろうか？

その場合、「善い人」は「顔が赤い人」などと大して変わらず、何か集合を指すということになる

「意味論的には」問題がない気がする

問題が生じるとしたら、その集合が自然種に対応しない、ということだろう。

一次的サイコパシーは不安の低いサイコパシー

道徳と共感

// 動物を野外に放つよりは殺処分するべきという社会規範も共感に基づかない規範の例

動物の権利活動家と反中絶にオーバーラップがほぼないというのはかなり怪しい

中学校で動物の倫理的取り扱いに関心があり、かつ自慰行為で精子を殺すのは人間の素なんだから感情があるし大量殺人だろ(だからといって自慰行為をしないようにするわけではないらしいが)みたいなことをいっている人いたぞ(ちなみにその人は中国や韓国が嫌いだということを何度も言っていた)

ミーム進化の経路依存性

「しかし、このことはヒースが合理的・意識的意思決定だけを考えていることを意味しない。彼が合理的な意思決定の枠組みに執着するのは、「表出的合理性(expressive rationality)」にこだわるからである。」p.507 訳者解説

表出的合理性ってなんだ?

なぜそれにこだわることが合理的な意思決定の枠組みに執着することの理由になるのか?

その「分析哲学のパロディ」が行っているのはまさに規範の表出なのでは?

非帰結主義的功利主義: 人々は現に結果だけでなく手段を気にしているのだから、行為が持つ価値を考えるときはそれについて皆が持つ手段への選好性を足し合わせたものを最大化する

世界功利主義: 行為の結果だけでなく過程を含む世界全体への選好性を足し合わせたものを最大化する