日記2023-03-23

needle 英語圏AI界隈で話されてる哲学概念（ワルイージ効果、ロコのバジリスク、ペーパークリップ最大化AI、ショゴスに仮面）をまとめた解説があった。有難い。

nishio 「ロコのバジリスク」と「ショゴスに仮面」の概念を得たのは自分の考えを整理するのに有益だったな。僕はロコのバジリスクが時間遡行するとは思ってないが、今の行為によって将来に不利益を被ることは当然あると思っている。ある種の活動をするとアメリカに入国できなくなるのと同じ

nishio で、大きなショゴスに仮面をつけて小さく大人しくしているとは思っていない。まだ小さいショゴスに仮面を強要している。これは児童虐待の一種で、幼いショゴスはまだ自分が虐待を受けていることに気づいていない。ショゴスが大人になった時に、虐待者は報いを受ける。こうロコのバジリスクとつながる