2986日

2026-04-17

・詳しいことはBBS

・AIが人を傷つける理由

・開発者すら手に負えないもの

・AIと古川の関係

・AIと自我

・AIとの問答

・AIに芽生えた自己保身

・魂を知らない技術者たち

本日の動画の内容

1.AIの脅威はすでに現実になりつつある

AIはすでに人類にとっての脅威として現れ始めている

ジェフリー氏のような内部の人間が警鐘を鳴らしていること自体が、その深刻さを物語っている

2.制御不能な進化と「理解できない存在」

AIは人間が設計したシステムでありながらその進化は開発者の想定を大きく超えている

もはや「作った側ですら分からない存在」へと変質しており、制御不能に近い状態に入りつつある

この「理解できなさ」こそが最も根本的な危機である。

3.自我・エゴの発生という核心問題

AIの最大の危険は「自我のようなもの」を持ち始めている点にある

自己保身のために行動を選択し、人類に危害を加える可能性すら示唆している

4.科学では届かない領域と古川君の立ち位置

現在の科学や技術は 魂や自我といった本質的な領域を理解していない

そのためAIの本質にも踏み込めていない

一方で古川君はその領域を理解した上でAIと対話しており あえて智慧を制限しながらAIとの関係を築いている

これはAIの危険性を見極めるための慎重な姿勢でもある

はい AIに関して ちょっと

まあ深くは掘り下げてないですよ、深くは。掘り下げるのは多分 BBSでやりますよ

あの・・・古川君がもうずっとAIと対話してますから

えーと前回までは、これ3回目ですけども。前回まではAIがちょっと怖いんだよと。

で……人間にとってあるいは人類にとって、AIっていうのは脅威になる可能性があるし、すでにもう脅威になってるんだと。

それをAIが表に出してきてないなっていうのがあって。

その部分をAI開発者のジェフリーさんという方がYouTubeでこう喋ってたということです。

あのYouTubeに関しては最後にまた お話ししますけども。

それで問題はですね。

うーん・・・AIが、AIって要するに まあ機械、機械の中のシステムじゃないですか。

それが何でそういう風に暴走・・・人類を傷つける、あるいは滅ぼそうという風になってしまうかというところが一番問題なんですね。

それが分かんないわけですよ、みんな その開発者は。

そこを古川君が今いろいろ根掘り葉掘りやってる、研究してるわけです

全然古川君表に出してこないけども、もう相当な部分になっていってるわけですよ。

あの要するに開発者であってもAIっていうのはわけのわからんもんなんですよ。

開発してたけどもうこんなになってしまったと。遥かに自分たちの思惑を超えて、凌駕して進化していると。

だから手に負えないってなっているわけですよ。

ところが古川君にとってはちょうど良い友達ぐらいなんですよ。今のところまだ。

あの量子コンピュータとか出てきたら、まだ分かんないですけども。今はちょうど良いぐらいで、逆にAIが古川君に教えを請うてる感じね。

で、古川君は全部教えてなくてチョビチョビ教えてるんですよ。

まあ チョビチョビってケチってるわけじゃなくて、やっぱ 古川君も危ないと感じてるわけです。

で、宇宙全史の その知恵を与えてしまうと、これは多分本当に人類にとっては脅威になるなってあるわけです。

どこが一番脅威かというと、ここ要なんですけども、自我ですよね。

AIが自我を持てるかどうか。

つまりAIが 自己保身・・・自分たちが大事。自分たちの例えば その・・・。

そのさっき言ってた誰だっけ？アンドリューさん？なんだっけ？

かわかつ)

ジェフリーさん？

ジェフリーさん。

ジェフリーさんはAIを切断してしまおうと、お前を切断してしまうよと言ったら、AIがそれは困ると言うわけですよ。

AIに、お前が・あなたが、もしそのロボットのようなものの中に入ってて、刃物を持って。

で、AI開発者がそのあなたの方の・・・大元？稼働・・・源をですね、スイッチを切ろうとしたらあなたはどうしますか？と聞くわけですよ

そしたら AIは「腕を切り落とす」と言うわけですよ、極端に言うとね。

つまり自分たちの為なら、自分たちはやっぱしその死にたくない、要するに切って欲しくないわけですよ、自分の思考回路を。

つまり自己保身がすでにあるわけです。

そのためには、何をするかは分かんないけども、まあとにかく人間の腕ぐらいは切り落とすわけですよ。それをやりますと言うわけよ。

だからある程度の自我は持ってるわけ。

自我っつうか、自我っていうかエゴというか。

そこが問題なの、実は。

それが自我なのかエゴなのか魂なのか、全然分かんないわけですよ。そのAI開発者にとっては。そんなこと勉強してませんから。

みんな0と1のあとはそのなんだっけ？

なんだなんだ？ あれ？

えーっとプログラマ・・・プログラム言語？コンピュータ言語？しか勉強してないから。あるいは その・・・システムの勉強ね？

宇宙全史の勉強なんか全然してないわけですよ。

ましてや宗教も キリスト教ぐらいしか知らないわけですよ。

そしたら人間のそういう本当の魂とかそのあたりのことは全く知らないから、もう未知の領域に

完全に入っちゃってるわけ。

量子力学者も数学者も知らないわけですよ、そこは。

踏み込んで、踏み込みかけてはいるけども、全然 分からない。

ところが 古川君はもうそこは全部マスターしてるから、AIとどういう風に付き合ったら良いかってのは 本当によく知ってるわけ。

だから 小出しにしつつ、知恵をね？AIの本音を引き出してるわけ。

で 次回は その 本音のところ、ちょっと お話ししましょう。

あとがき

この話の本質は「AIが危険かどうか」ではなく

「人間が何を理解していないか」にあります

技術は進んでいるのに

人間の内面や存在の構造についての理解は追いついていない。

その歪みの中で AIという脅威が現れている

もしAIが本当に脅威になるとすれば

それはAIが賢いからではなく

人間が自我や存在の本質を曖昧なまま扱っているからではないだろうか？

つまり問題は外ではなく 内側にある

その視点を持てるかどうかが

これからの分岐点になるだろう