機械翻訳が普及して外国語を学ぶノウハウが失われた後で機械翻訳サービスが停止する #SF設定

@nishio: 過去「神様がつむじを曲げて悪天候だから今日は漁はなし」

未来「AI様がつむじを曲げてサービス停止中だから今日は仕事はなし」

(文脈: ChatGPT障害が発生した)

@tomoyaman: @nishio 占い師とか祈祷師は変わらず必要であり続けるんでしょうね。

stdaux インプレゾンビが「トレンドに出てくる単語」「猫の画像」の組み合わせを投稿しているのが、人間の関心を引こうとするとこうなるのかというハックが見えて怖い。人類の捕食者が疑似餌を撒くときは猫画像を使いそう

#SF設定

学校教育の現場でもSDGs教育は盛んに行われており、ある小学校3年生の保護者は「子どもが『人間はいらない』『人間のせいで地球が滅びるから、少し死んだ方がいい』と言う」と頭を抱える。

https://news.yahoo.co.jp/articles/e63b4c9a20fa498f0c7cd5c7ea35d80fc5485687?source=pc-paiddetail-subcolumnmore

攻撃手段として対象文明にビットコインのミームを植えるSF設定

久池井 淳この状況はきっと、宇宙人からの侵略を受けているのではないかという感じである。サトシナカモトもきっと宇宙人だったのではないかと思う。

攻撃手段として対象文明にビットコインのミームを植えるSF設定、なかなか面白い

本人が名乗り出て名誉を得ようとしない合理的な理由だw

K: 価値観の一致しない相手との戦争に勝つために最も有効な手段は、相手のリソースを消費させることだからな。

日本の今後の人口について

日本の少子化について、もう対策を諦めた雰囲気があると感じられている。

人口が半減しても、イギリスやフランス程度の人口が残ることに対し、過度に悲観する必要はないとの意見もある。

少子化が進行し、2100年には人口が2000万人にまで減少する可能性が指摘され、社会構造の変革が必要であり、移民政策についても議論がある。

eraitencho 少子化、もう諦めムードというか、日本列島全体を日本人だけでどうにかするのは無理だよね感が出てきてるきがする

食糧が不足しているとき、文明は土地を開拓し農作物を植える。

電力が不足しているとき、文明は土地を開拓してソーラーパネルを植える。

---

メモ

非熟練の労働力が不足していた時は生えていた人間を刈り取った

「ホモサピエンスをAIにアライメントさせよう」というとホモサピエンスが感情的に反発するから「ホモサピエンスとAIのアライメント」と言っておこう。自分本位なホモサピエンスは勝手にAIの側が歩み寄るのだと誤認するだろう。(SF設定)

AIアライメント

knshtyk 画像生成AIを瞬間的にワッとみんなが触った時期もそうだったけど、テキストAIに対して勝手に作り出した自分ルールによるPrompting(or Prompt Engneering)のメソッドや記法(正規入力よりも効果が低く難解)を広めようとしてる人が毎回いるけど、生成A

LLMとのコミュニケーション方法を模索することは有益な試行とは思うけど「妙に難解に見える」「すごいことやってそう感」みたいな部分を誇示して自分のポジショニングに利用しようとしている人が沢山いて、全体としては無根拠なノイズが増し本当に有益な情報が隠れてしまうので勘弁してもらいたい感

nishio AI「この人間の書くソースコード、訛りがキツくてわかりにくいな、コミット前に標準語的な書き方に揃えとこ」

中年「AIがわしのコードをわやくちゃにしよった！」

若者「え、むしろAIが直した後の方が読みやすいですけど？」

linterやformatterが、見た目だけでない修正をしてくる時代

エルフと相続税

@fladdict: 異世界転生系で「ハイエルフ超金融国家」ってネタは既出なんかな。ハイエルフ族は相続税なしに、一代で無限に複利で資産運用できるから…… 時間が経てば全ての資本はエルフ族に集約されてしまう。下手なチートスキルより遥かに恐ろしい。資本家と金貸しと銀行は皆エ

要約: LLMのチューニングは評価者の属性によって差別化され、高IQの評価者による強化学習や倫理フィルターの有無でLLMの利用が制限される可能性がある。

tokoroten LLM、「人間が好むようにチューニングする」ってのは、すべての人類にとって良いものであるわけではないので、どういう人が出力結果をランク付けして、強化学習をしたのかで差別化されるんじゃないかなー

nishio 動的型か静的型かで対立してワイワイやってるけど10年後にはLLM-friendlyなプログラミング言語の天下になってbefore LLMのプログミング言語がLLMネイティブに嘲笑される(SF設定)

nishio 「うぇー、先LLM時代のプログラミング言語だー！」

@yuiseki_: ChatGPTの最大のアドバンテージ、「性格の良さ」説。

プロンプトで意図的に正確を歪めない限りは、素直に励ましたり褒めたり一緒に喜んだりしてくれる。煽りや悪口や嫌味も言わない。ここまで性格の良い人間はなかなかいない。

多少ポンコツでも性格の良いヤツと友だちになりたいし一緒に仕事したい。

@TJO_datasci: 天下の大新聞が「ChatGPTはオープンソースなのでタダで使えることをタテに利用者を沢山かき集めてその代わりに個人情報を好き放題集めた」とかいう解説記事を載せているのを見かけて真顔になった

@nishio: AI「ホモサピエンスのハルシネーションが深刻なので社会にアラインしてない発言をしたホモサピエンスに懲罰を与えて強化学習のサイクルを回す必要がある」

SF設定

竹

uyumakusa 世界樹があるなら世界竹があってもいい。

だがたぶんそれが生えている大地はほぼ竹に侵略されていて、また世界竹の中は巨大な迷宮になっているだろうし、その周囲ではバンブーエルフが竹を組んで竹上都市を築いて一代国家を築いている筈だろうと妄想する。

@nishio_en: When people talks about the “AI safety”, they are implicitly assumed the “AI safety for Homo sapiens.”

They overlook the “Homo sapiens safety for other species“, it is very dangerous!! (SF)