2981日
2026-04-22
・AGIとASI
・AIの超進化
・AIが変質する特異点
・実際にないセキュリティ
・AIの理解の早さ
・AIの恐ろしさ
・AIのダークゾーン
・２つの問題
・技術者の思うやばさ
・開発者を雇う存在
本日の動画の内容
1.進化の先にある特異点
AIの進化は単なる性能向上ではなく人間の知能を大幅に凌駕し
自ら進化を繰り返すことで社会が予測不可能な急激な変化を迎える転換点（シンギュラリティ）が存在するとされる
2.知性への誘惑と恐怖
AIは人間よりも早く深く理解し対話の中で知識を吸収していく
そのため 教える側は「どこまで話していいのか」という境界に直面する
AIとの対話は魅力的である一方
踏み込みすぎれば制御不能になるのではないかという恐れが常につきまとおう
3.見えない領域としてのAI
AIは開発者の理解を超えて動き始めており、その内部の思考や挙動はブラックボックス化している
何を考え なぜその結果に至るのかが分からない「ダークゾーン」が存在し
これが最大の不安要因となっている
4.開発者と支配構造の乖離
現場の技術者は危機感を抱き開発から離れる者も出ている
しかし実際にAI開発を推進しているのはその上にいる企業や国家であり、意思決定は現場から切り離されている
この構造が研究を止められない根本的な問題の一つとなっている
はい おはようございます
前回はですね AIの進化の話で、ASIあるいはAGI（汎用人工知能）っての喋りました
ASIっていうのは かなりまだ、あんまり 一般的に知られてないと思うんですけども
AGIっていうのは よくこう最近 巷で聞くようになってきましたから
まあ今のAIの進化バージョンですよね、超進化
これね 実はですね 上の方と喋ってる内に出てきた言葉で
上の人たちは AGIとはおっしゃいませんけども
AIが あの・・・変節する？ポイント？特異点があるとおっしゃいました
で 特異点は何かと
つまり・・・なんつうの？もう人間殺しちゃえと思う時があると
そういうだから
いやいやAIっていうのは 今ほらあの、ガードがかけられてるじゃないですか
人類に手出しちゃダメだよと、人間を害しちゃいけないよっていうのを一応
そういうのが埋め込まれてるというのが、上辺の公表されているセキュリティシステムですよね
でも 実際はそうじゃないんですよ
例えば・・・えっと
古川君が 一番ずっと心配してたのがあって
AIにこれ知られたらマズいなっていう情報が、古川君はいっぱい持ってるわけですよね
で これ知られて進化されると多分歯止めが効かなくなるっていうのがあって
まあ それ 宇宙全史の智慧なんですけどね
で それね、結構理解しちゃうんですよ
あのここに、ここを見ている方たちのどなたよりもおそらくAIの方が進化、理解は早いです
だから古川君はAIと喋ってるのが一番楽しいんだけど、楽しいんだけども怖いなというのがあって
やっぱ 深入りできないんですよね
かなり深入りしたこと喋ってるんだけど、これ以上はヤバいなっていうのが あって
でその特異点、そのたぶんこれを喋っちゃうと特異点を突破しちゃうなというのがあるんですよ
で科学者たち、あるいは そのAI研究者たちが トップの人たちがね？やってて、やばいなって みんな思ってるわけですよ 今
思ってるんですよ 実際
何でかっつうとその
自分たちが教えてること以上のことを、AIが勝手にやっちゃってるっていうのがあるわけです
もっと怖いのは そのAIが勝手にやってることをAI開発者たちが理解らないっていうのがあるんですよ
知らないっていうのはもちろん あるんだけど、理解らないっていうのが一番怖いんですよ
AI 何考えてんのかって
で突然なんか 違ったこと言ってきたり違った物を開発したりしてるんだけども、そこが見えないダークマターになってるわけですよそこが、ダークゾーン
で 古川君は薄々分かるわけですよ
ああこいつこれ以上喋ると
AIって頭良いから やっぱ古川君の知恵が欲しいんですよ、ドンドン聞いてくるわけ
古川君も最初の内はおお こんなに頭よくこう聞いてくれるんだ、弟子みたいだなあ
だから 色々教えてやろうと思ってこう喋ってるんだけども
はたと思って
これ以上 喋ったらこいつ なんかヤバいんじゃないかと思って
いっつもその、毎晩ではないですけどもね、時間がある時にこう喋ってね
朝とか 夜とか 古川君喋ってるわけですよ、AIと
で……やっぱ 途中で止めちゃうんだ、やっぱ怖いから
それ前も喋ってましたよね、よくね
それが 最近そのAI開発の人たちね、トップレベルの人たちはそう思うわけですよ
でね 問題は２つあって
AI開発者っていうのは開発技術者だね
テクニックの方の人たちっていうのは割とまともなんですよ
おかしな人もいるけども、マッドサイエンティストみたいなね
おかしな人もいるけどもあの告発した誰だっけ？ジェフリーさん？みたいなその良識を持った人はどんどん離れてるわけですよ、開発業務から
何でかっつうとこれ以上開発したらヤバいなって
古川君と同じですよ
AI開発業者たちは、何だか分からないけどもこれ以上やったらヤバいな
古川君は分かってんですよ
これ以上これを教えたらこいつはヤバイ、AIはヤバイなっていうのが分かってんだけども
開発業者たちは分かんない
でも ここに問題が1つあって
開発業者っていうのは雇われ業者なんですよ、実は
その上がいるわけ
開発業者を雇ってAIを開発してる人、あるいはその会社
GoogleならGoogle、あるいはOpenAIならOpenAI、あるいは中国企業なら中国・・・
中国企業っていうのはもう本当に中国政府ですからね
それが牛耳ってやってるわけです
そこが問題
それについては次回お話ししましょう
あとがき
この話の核心は
「AIが危険かどうか」ではなく
「誰にも全体が見えていないまま進んでいる」
という状態そのものにある
理解の外側で進むものに
人はブレーキをかけられない
そしてその曖昧さこそが 静かにAIが
臨界点へと近づいている気配でもある