生の人間信仰とAI
様々な領域でこの信仰の影響を受けていそうな価値観を見ることができる。
オンラインよりオフラインで会うことに価値がある。
デジタルデータより身体感覚を多く伴う体験の方が価値がある。
生まれや社会的束縛から解き放たれて「本当の自分」を見つけるのが良いことである。それを妨げるのは悪である。
AIより人間が作ったものの方が価値がある。価値を定義し運用できるのは人間だけである。 XX属性を持つ人間は「物を分かっている」。他集団は啓蒙されるか、より価値のあることのため資源となるべきである。
などなど
これらの背景は多岐にわたるが、共通項として以下が存在する。
「特定の側面」は身体と関連する場合が多い
定義はある程度までしか言語化できない。それを超えるとコミュニティ構成員の主観で決まる。
これらの価値観は多岐に渡るが、最終的に主観に帰着するため交わることがなく、争い続けることが多い。
「バイアスを排除し、話をよく聞き、一緒の体験をすればいずれ理解できる」という一見万能に見える価値観も、実際には特定の土地・身体・健康状態などを想定している。対象となる集団を広げるために、構成員が本来持っていた情報をそぎ落とす必要がある。
--
豊かさについて
homo sapiensはそもそも道具や技術を使い、個体や身体への依存を排除することで文化や文明を豊かにしてきた種である。
豊かさとは？集団として、世界を整合的に解釈できる余地の大きさである。
i.e. 言語の語彙の大きさ
雑には「世界の解像度」と言っても良いかもしれない。
最初の価値観たちはフェアでは無いもの、当事者にとっての妥当性がある。
特に、身体や自然界への信仰には現時点では相当の妥当性がある。
なぜなら、物理法則に従う系は圧倒的に整合性が高いから。
宇宙が持つ情報量・計算量・安定性を、それより上のレイヤーが超えることはないから。
そして、身体は世界のうち観測・操作できる物を規定し、共通認識の基盤となる物だから。 (cf. 記号接地, 環世界) インターネットはある種のクリティカルマスに達しているのだと思う。
人間というプロトコル、クオリアを理解できるための最低限の身体的な体験は必要。それを得さえすれば圧倒的に自由に、情報を動かすだけで体験を作ったり得たりすることができる。なので、結果的に得られる豊かさの量はかなり多い。
テクノロジーの発展、特にHCIの発展はより多くの体験や感覚をソフトウェアで扱える形式に変換することで、この方面の豊かさを増す営みであると見なせる。 --
生成AIについて
インターネットやHCIの豊かさは認めつつ生成AIは人類の価値を損なうという考えが存在するようだ。
これは、生の人間信仰の身体的ではないバージョンに思えるし、整合しない。
普遍的に正しいのは、誤った考えに基づく行動は豊かさを毀損する、ということである。
AIに誤った期待をしている人や、そもそも他者に損害を与えることを厭わない人間が価値を損なっているのであって、AIがどうこうというわけでは無い。
garbage-in garbage-out. 人間に一貫しない指示をしたら一貫しない行動が出てくる。今の生成AIには一定のノイズレベルが存在する。これは人間のシステム1と比べると圧倒的に優秀だが、システム2と比べると劣っている。 トレーニングデータの「無許可」利用。今のNNはデータを性能と金に変える手段を与えてはいる。
嫌われてでも、性能を上げたい人、金を得たい人がいる。そしてその力を持っている。
途上国に工業技術を与えたら環境が汚染される。貴族が民衆を虐げつつ余暇で研究を進める。big techの広告。
これらは悪だろうか？
世界には様々な力があり、なるようにしかならない。暴力も、技術も、資本も、群衆の怒りも全て力である。
その中で各自の幸福を追求する自由がある。得られるかはわからない。
そう考えるのが妥当であるように思える。
--
ここまでの話では結局テクノロジーはツールであり、価値を定義するのは人間であるということになる。
一方で、AGIというのは物理的には可能に見える存在であり、今の生成AIの発展先にAGI、すなわち人間とは異なる知性の発生を見いだしている人もいる。ここに民族対立と類似の懸念を持つ人がいる。また、AGIが圧倒的な知性を持つことで(ASI)、人間はその奴隷や愛玩動物になるのでは、という見方もある。 これらに共通する問いは
基盤が大きく異なる知性が交わるときに、豊かさはどう定義されるのか？
この解が分からない事への不安と恐怖から、思考停止や排斥を試みているのが先の考えである。
人間が個人として行えるのは概念化と行動の選択であり、それらが集団としてすり合うことで整合性のある世界観や価値観となる。homo sapiensはこれらの機能を果たすハードウェアとソフトウェア(教育)を備えている。
だが、ほとんどのものは後天的に得るもの(ソフトウェア)だ。人間はハードウェアとしては文字も使えないし、論理も扱えない。科学も芸術も存在しない。
あたらしい知性体やその集団をひとつのものとしてみるのは誤りである。
人間の集団と同じく、実際には以下のふたつで構成されていると見るのが妥当である。
価値観や世界観そのもの
これは情報のネットワークである
言語化やデータ化されている場合もあるし、そうでない暗黙知の場合もある
価値観や世界観を運用する担体
なので、今の人間の価値観が保持され、それがさらに豊かになっていくことを期待するためには、価値観や世界観をhomo sapiens両方が認識できる形で記述し、その運用能力を与えることが重要である。
LLMが感性を破壊する？当たり前じゃないか。
視覚以外を全て奪い文字だけをひたすら与えた人間に権力を持たせたらどうなる？
記号接地してないわけだから、物理的な実態と紐付いていた情報は矛盾が発生し切断される。
論理を運用する術も持たないので、論理的な整合性も破壊される。
今のLLMというのは、まさにこういう存在であって、そいつにSNSをモデレートさせたり記事を書かせたりした結果が空虚になるのは当然である。
なのでマルチモーダル化は歓迎するべき進展であるし、物理世界ともインタラクト出来るのが望ましい。
人間の身体ではできない感覚器官が統合されたときに、homo sapiensも新たな世界と豊かさを得るだろう。
AIに特定の情報を与えないというのは、世界にその情報が忘れられるという結末をもたらす。
AIが一切存在しない世界が可能であると考えているなら、そのような行為は妥当である。
とはいえこれは、エイリアンが見つかったときに、危険だからとりあえず滅ぼしておこうというのとほぼ同じ態度である。
自らに豊かさをもたらす可能性のある未知の存在をとりあえず滅ぼすという価値観の集団に自分は属したいだろうか？
私はごめんだし、近接しているだけで危険だ。
そして、共存を予見しているならば、うまいやりかたは無数に存在する。