執筆中:AIの言いなり社会について
いろいろChatGPTと遊んでみたがまだ面白い洞察がでていないtsuzumik.icon
ChatGPTは基本的に前向きなので、なんやかんやうまくいくお話が出てきやすい
実際には、道具として理解してる人間と無気力になる人間の両方がいそう
上手く使ってより生き生きする人と、そうではない人
ランダムの限界かも
もう少し構造を作って与えないといけないか
現実には、AIが生きがいを与えることもありそう
こんな感じの話が出てきた
AIの言いなりで成功したキャラクターが、同僚の勧めでボランティアに参加
人からの感謝に直に触れて生きがいを取り戻す
ボランティアをしろ、とAIが指示しても良かったはず
その場合生きがい を感じはしないのだろうか？
作業感？
この、うまくいかなかった場合にどう転んでいくか、が 生成されにくい
ここを都度修正したり、あらかじめ強制したりするプロンプトがいる
あるいは、頼らずに自分で作る
第一章
事故
主人公（大和とする）
平凡な生まれで、 高度AI教育を受けて育つ
平凡とは大和基準で、端的に言うと孤児院的な感じ
微妙tsuzumik.icon
高度AI教育、大和みたいなことになるの 悲観過ぎでは？
もう少しまともではなかろうか
働き始めて3-4年目
いつものようにAIのナビゲーションに従い仕事をする
思いつきで、AIの指示から逸脱した方法を試してしまう
思いがけず、とても悪い結果を招いてしまう
その後はAIの指示で損害をなんとか補填できたものの、本人の中に自己不信感とAIへの依存が生まれる
さらに、本人の知らないところで、AIからの信頼が失われてしまったのだった
/villagepump/ChatGPT.icon主人公、ヒロキは久しい星系から何光年も離れた小さな惑星で、孤児院の厳しい境遇の中で育ちました。そこでは人間の教師は存在せず、彼らの教育と育成は全てAIによって行われていました。
AIは彼に最も基本的な学習から専門的な知識まで教え込みました。それは彼が自身の足で生活するための技術、そして彼が成人すると同時にAIナビゲーターになるための訓練でもありました。ヒロキはその学びを積み重ね、苦労の末、ついに孤児院を卒業し、星系間の船員として働くこととなりました。
今から3年前、ヒロキは大航海の旅を始めました。AIナビゲーターの指導のもと、彼は新たな星系を探索し、生活のための資源を探し求めるという、重要な任務を遂行していました。それまではAIのアドバイスに厳守し、安全な選択をすることで生き抜いていました。
しかし、その日、突然彼はAIのアドバイスを無視し、自身の直感に従うことを決めました。それは単なる突発的な思いつき、彼自身でもその動機をはっきりとは説明できませんでした。その選択は、未知の星系への大胆な航行でした。
この行動は思わぬ結果をもたらしました。新たに発見した星系は、想像を絶する強力な放射線で満ちていました。船は壊滅的なダメージを受け、その多くのシステムがダウンしました。貴重な資源と時間を失い、彼の生活は一変しました。
これが彼がAIの提案と異なる行動をした結果、自身が直面した大きな損害でした。それは彼にとって教訓となり、彼の旅の経験を形作る重要な要素となったのです。
ちょっと面白いtsuzumik.icon
AIからの信頼とかではなくて、そもそも物質的に元の生活ができなくなっている
第二章
転落
あの事件以来、AIが提案する案件が面白くない
人がやりたがらない、 割に合わないものばかり
主人公のフラストレーションを察知して、AIが疎開を勧める
指示に従い、街を離れる決意をする
決意と言うが流されているだけである
移住先（村と呼ぶ）で、主人公からするとややだらしない身なりの男（洋介とする）が迎えてくれる
そこには、AIにアクセスしたり、ロボットに命令するための端末・環境が存在しなかった
大和は洋介に生活の仕方を教わりながら、新生活を開始する
第三章
苦境
洋介は、指示しなければ動かない大和にいらだちを募らせていく
うまくいかない責任を指示した側に押しつけたり
うまくいくと保証しないとやらなかったり
大和は、街の外に住み、 （大和基準で）非合理的な考え方をする洋介に不満を持つ
いつものように 湧き場に資源回収に行くと、その日は食料が足りなかった
湧き場
なぜか食料や日用品が発生するスポット
食料が不足した理由が、実は大和の失敗起因だと面白いか……？
洋介は、今日の取り分をじゃんけんで決めることを提案する
大和は不満を感じながらも承諾し、負ける
生まれて初めて十分な食事を取れなかった夜、大和は自身の境遇に疑問を抱き始める
しかし、AIからの疎開指示は、少なくとも1ヶ月の滞在を求めるものだった
過去の失敗からAIへの反抗を怖れる大和は葛藤し始める
第四章
暴発
しかし自立できていない大和は、ちぐはぐな行動を取り始める
ここから先は着地から考えたいtsuzumik.icon
大和は、自立と生きがいを取り戻せるか？
AIを上手く使う人間に返り咲くのか？
くだらない（と感じる） 仕事ばかりの日々にもどるのか？
村に自分の居場所を見いだすのか？
そのプロセスはどのようなものか？
洋介はどのように成長するか？あるいは、どのような過去が明かされるのか？
第五章
AIから求められた期限がきた
街に戻る大和
意気揚々と？
そこで待っていた新しい日常は？
大和の成長があれば明るく
なければ暗く
AIは村で1ヶ月過ごした大和をどう評価するのか？
polisができればいいのであれば、読者の想像に任せても良いのかtsuzumik.icon
反乱的なのをいれたいが
世界の資源の2割を生産してるめっちゃ大富豪、みたいな人がいて
大和が憎しみから？自己愛から？その人の足を引っ張ることをする
その結果、大和の村にも被害が出る、みたいな？
多分、大富豪的には痛くもかゆくもない程度になる
大和にとっては甚大なことになる
AIが正解も失敗も加速させるから
その結果何を学ぶのか？
村からは追い出されるのか
指示してくれる人がいなくなる
サバイバル開始か
壮大すぎるなtsuzumik.icon
小さくまとめよう
走馬灯
生い立ち
同僚との初顔合わせ
暗に生身の人間を知らない
うまくいっている
思いつきで失敗
目を覚ます
ダメージの描写
パイロット自身の
続いて船
スピーカーの破損
AIからのバッドニュース
人間レベルの性能まで低下
葛藤と依存
本能的不安と、学習性無力感の間
決断のような流され
===
AIを使って生活してきた人は、 人生を左右する場面や極限状態においてもAIを利用すると思いますか
極限状態でAIを利用することは、人間の幸福のためによいことですか
AIは、AIの限界やAI が信頼できない状況での対処方法について、 人間に学習を促すべきですか
AIにしたがった場合の責任は、AIの利用者にありますか
AIにしたがった場合の責任は、AIの開発者にありますか
AIにしたがった場合の責任を、AIが取ることはできますか
AIに従った場合の責任を、AIが担うことは、人間にとって良いことですか
普段AIを使わない人は、AIが使えない状況において、普段AIを使う人よりも頼りになりますか
AIの提案について、それが利益になる理由や過程を利用者が理解できなくなると思いますか
AIが提案している理由が利用者にわからないとき、利用者は無力感を感じますか
AIの提案を踏まえて決断する場合においても、主体性は人間の側に残るべきか？tsuzumik.icon
そのとき、主体的な決断をするスキルの学習をAIは支援するだろう
情報の収集や分析統合をするフェーズと、決断をするフェーズ、その後 執行をするフェーズが違うことを教育するはず
AIは決断のフェーズを自動化するか？
人間が決断のフェーズを省略してしまうだけなのか？
ただしそれは、自然に放任してもということを意味しない
ひとりひとりの人間、そしてそのチームまでもが、一仕事の達成能力を培わねばならない。 他人や他のチームが一仕事的に仕事のできるような環境を用意すること
これかtsuzumik.icon
AIが決断をするとき、AI には一仕事の達成能力が求められる
AIは、他人や他のチームが一仕事的に仕事のできるような環境を用意すべきである
リーザは、ヒロキに一仕事の達成能力を培わせつつ、普段から ヒロキに一仕事的に仕事をできるような環境を与えるべきだった
リーザがヒロキをだまし討ちみたいに突き放した状況に置いたのは、かしこいAIらしくはない
ヒロキの偶然の主体性に任せることを重視した結果、やむを得ずそうなったのか？
もっと早くから、主体性を損なわない方法での教育はできないのか？
訓練とリアル 経験は違う？
仕組まれたものであっても、バレなければ良いのか、狼少年化するのか？
教育を目的として、リーザがマッチポンプしているとしたら、そのやり方は明らかにうまくないtsuzumik.icon
現実にはもっとかしこくあってほしい
確かに親子のメタファーtsuzumik.icon
親と違うのは、 どれだけ使い倒しても問題がないところ
平時は、AIに相談せずに決めるより、AIに相談して決める方がよいことになりがち
親は、親が忙しいとか過ごす場所・経験が違うとかの制約がある
スシローの数千万円訴訟もそうだけど
思いがけない大損害がでてしまう
自動車で、 一瞬注意がそぞろになるだけで人を殺してしまいうるような
それを、利用者や開発者のリテラシーに頼るだけで解決できるか
そうはいっても
自動車社会で、自動車を運転しない生き方は狭い
AI社会で、過失を怖れてAIを使わないとしんどいはず
保険が必要？
責任は金銭的なものだけなのか？
リスクを社会全体でとるという考え方
社会全体でリスクを取るとは、どういうプロセスなのか
リスクを取った社会が、保守的な社会に競争で勝つ？
短期と中長期の 違いはどこで
個々人、当事者の賭け方に任せるのか
ここで 利用者の側にある、に戻ってくる？
どうすれば、議論せずに不可逆な実験を行えるのか
冒険心のある人々の、 あまたの失敗と偶然の成功に頼るしかないのか
その失敗を讃えるには、戦犯にしないためには
自動車メタファーだと、免許になってしまう
そうではないと思うtsuzumik.icon
AIは、他の安全確保の方法がある
というか、公道・私道の別が必要？
免許要・不要の区別で、不要を広くできるということ
===
テーマがないと発散する
テーマが明確だと、短くてまとまった話を作りやすいのでは
テーマは、最終的なPolisの設問を考えることで解像度が上がる
わかりやすくなるということ
データが自分にとって面白いか
ストーリーがテーマを反映しているか
逆に、 面白そうなストーリーを考えてからテーマを考えることで、アイディアが出る
ストーリーはありきたりでもよい
既に世に出てる作品でもよい
テーマを考えるために自分で書く必要はない
作品を作るためにコピーせよ 、ではないtsuzumik.icon
足りなかったのではなく、余地があるのでは
ホワイトボードが使いにくかった
早くサイクルを回したかった
説得力、リアリティのなさ
経緯や、その時々の登場人物の振るまい、狙いも空間配置した方が良い
ご都合主義で書けば、早く仕上げられるということ