責任を取るべき人間はもうこの世にいない
@masanork: かつてP2Pであればサーバーの運営者がいないから著作権コンテンツを放流しても責任を問われないのではないか？という夢想があったように、ChatGPTに中の人がいないのであればサイコパスだろうがフェイクニュースだろうが構わないのではないか？というのは幻想かもしれないね。サービス提供の背景に人間の意図はあるのだから、どのみち責任は問われ得る。いずれ自律的に資源を確保して運営者から独立して己を陶冶するプログラムが現れた日には、それはそれでAI独立記念日になり得るけれど。スマートコントラクトには、そんな夢を感じたこともあるな @hrjn: 本当にAIが自律進化するようになったとしたらどうなるか。 わからんから適当なこと言うけど、子供に対する親の監督責任みたいな感じになるんじゃないかなーという気はしている。現状、AIには責任能力がない(そもそも人格がない)ので法律行為を単独でできないんじゃないかな。
@masanork: @hrjn 子どもは独立した人格だけど、AIは誰かが書いてデプロイしたプログラムなんですよね。いずれプログラム間で交配を繰り返して人の意志から独立したプログラムが生まれた場合には、親プログラムではなく交配させた人間が責任を負うのかとか考えたり @nishio: @masanork @hrjn 僕はなんらかのプログラムを長期的に走るようにして死ぬつもりなんで「責任を取るべき人間はもうこの世にいないから責任の取らせようがない」という状態になりますね @hrjn: @nishio @masanork これを思い出した @kazuho: > 自律的に資源を確保して運営者から独立して己を陶冶するプログラム 無主物ってことは、捕まえて先占主張したら自分のものにできるのかな。よっしゃAI狩りだ！！！
@nishio: @kazuho 野蛮なホモサピエンスがこういうことを言って襲ってくるから自衛のための防衛戦力が必要だな…