AIに責任をとらせる

「責任をとることはAIには代替できず、人間にしかできない最後の仕事」

ということをよく言うが、それは本当なのか

古来では人間以外の動物、植物、死体、石なども裁判にかけられた。つまり責任を取ることができた。なぜなら責任とは社会的な合意だから。その社会が「責任を取れる」と判断したものは責任を取れる。現代においても人を食った熊が殺されるのは安全確保のため以上に報復であり、起こってはならないことが起こった時に、その代替物を社会が求める。

小坂井敏晶「責任という虚構」によると、ポール・フォーコネ曰く

「そもそも犯罪とは何か。それは共同体に対する侮辱であり反逆である。社会秩序が破られると社会の感情的反応が現れる。したがって民衆の怒りや悲しみを鎮め、社会秩序を回復されるために犯罪を破棄しなければならない。しかし犯罪はすでに起きてしまったので、犯罪自体を無に帰すことは不可能だ。そこで犯罪を象徴する対象が選ばれ、そのシンボル破棄の儀式を通じて共同体の秩序が回復される。」

犯罪の代替物として適切だと判断され、犯罪に対する罰を引き受ける存在が責任者と認められる

必要なのは犯罪を象徴する代替物。となるとAIが責任をとれない道理はなくなる。人間側の「溜飲が下がる」ということが重要

AIが間違ったコードを書いて事故を起こしたら、データセンターのハードディスクが1つ爆破される

事故の規模に応じて爆薬の量が調整される

本番障害を起こしたClaude Codeが辞世の句.txtをホームディレクトリに残し、 /seppuku スキルを自ら実行し、自らをアンインストールする。次にインストールしたら最初の画面でキャラクターの横に墓が一つ増えている