主観か客観かではなく、一人の主観から大勢の主観へ
打診の段階で「原稿を自分のScrapboxに載せたい」と伝え、8/15の発行後の条件でOKをもらった
紙面に載っている無編集のものを読みたいなら紙面を見ればいいので、こちらには紙面の都合で出来なかった加筆を盛り込んでいく
AIを活用した知識共創=個々の視点を統合する←これはGPT4が書いた
Q: 「主観か客観か」というテーマに対して、筆者はどのような意見を持っていますか？gpt.icon 概要:
AIが客観的真実を与えてくれる存在だと考えて問いかけをする人が多い。
しかし、筆者は自分と異なる視点を持った存在との会話に有用性を見出している。
真実性と有用性は異なる。
視点の多様性は、盲点を発見するために重要な役割を果たす。
AI技術の発展は、人々が他の大勢の人々の意見を要約し理解する能力を増強する。
これは組織や社会の構造に影響を与える。
「一人の主観」だけでなく「大勢の主観」までもが思考の対象物になる時代に、知的生産の形も変わるだろう。
どう変わるだろうか。
1．AIとの新しい共創体験
1.1 火中の栗で料理を作る挑戦
この企画の話を聞いて「火中の栗を拾う」という言葉が浮かんだ。
打診は3/4だった。
これは従来の類似APIと比べて約10倍コストが低い。
現在までにたくさんの応用が生まれた。
この原稿を書いている6/4現在、私はChatGPT PlusのBrowseモードを使っている。
そしてAnthropic Claudeの待ち行列に並んでいる。
これらの単語の説明はしない。
この記事が出版される8/15までに状況が変化するからだ。
学会誌に書くには向かない。
ただし抽象的知識を理解するには、それを支える具体的経験をあなた自身が持つ必要がある。 https://gyazo.com/dfcd705b2681f21d21a1218043b1345f
この記事は8/15に発行される。
その時点で読者が何を経験できる状況か、筆者にはわからない。
例えばChatGPT Plusは何度も新規受付を停止している。
今入手可能なものが明日も入手可能かはわからない。
関連:
このような状況だから「火中の栗」だと感じた。
そして「未来はわかりませんね」では許されない。
拾った栗で他の料理人と異なる「個性的で美味しい栗料理」を作らなければならない。
面白い挑戦だ。
1.2 次世代の知的生産力を模索する旅
まず料理人の紹介が必要だろう。
情報処理2019年12月号で紹介頂いた。
人間の知的生産性はソフトウェアだけでなく方法論や名前によっても強化される。
概念にそれを指し示す名前が付くことで、人はその概念を思考の中で扱いやすくなる。
加筆:
"Augmenting Human Intellect: A Conceptual Framework" (1962)
https://gyazo.com/e5a384e95a37b4245c44b53a7b5d0c87https://gyazo.com/93cbbec00f1c00a5477e3eddde496813
パターンに名前を付けること
Engelbart は言語を、個人が、世界に対する認識を、世界をモデリングするための「概念」に分解するための手段だとしました。言語はこの「概念」に シンボルを対応付け、「概念」を意識的に操作するために使うものだとしま した。この概念を意識的に操作することが「考える」ということだ、と彼は 考えています。
第1章のコラム「パターンに名前を付けること」で、Douglas Carl Engelbart が言語を「人間の知能を増強する方法」の 1 つに挙げていることを紹介しまし た。外界の出来事を抽象化したモデルを作り、そのモデルに名前を付けることで、心の中でそのモデルを操作して考えることができるようになります。 これが言語による知能の強化です。
しかし1967年の本であるため、その後50年のデジタル技術の発展が取り入れられていない。
その5年後にChatGPTが現れるとは予想していなかった。
この技術は知的生産のあり方に大きな影響を与えるだろう。
一部が消えて、一部が残り、新しく生まれる。
何が新しく生まれるだろうか？(Fig1)
https://gyazo.com/78a6a9aa82f0d0f623829f63637a7c73
Fig1: 移動=一部が消えて、一部が残り、新しく生まれる
1.3 AIとの対話による知的生産とその進化
打診を頂いたきっかけは筆者がWikiの一種であるScrapboxに2/23に書いた実験ログだそうだ。
ChatGPTに「質問を繰り返す聞き手」の役割を演じさせ、その質問に答えることで自分の思考を整理する実験だ。
加筆:
えーと、どれのことだっけ、2月の実験に3月に言及されたのとか覚えてないな
機械に質問をさせることは筆者にとっては馴染み深いものだ。
「エンジニアの知的生産術」で紹介したカウンセリングの手法では、カウンセラーはクライアントの使った言葉と、少数の質問パターンだけを使う。
人間のカウンセラーは高コストなので、同じことをコンピュータにやらせようと考えて2014年にCUI版を作った。
Webサービスにしたことで、スマートフォンからアクセスでき、入浴中や散歩中にも会話して思考を深めることができる。
2/23にしたのは同じ役割をChatGPTにさせる実験だ。
翌週3/1にChatGPT APIがリリースされた。
チャットログを要約させ、ネクストアクションを提案させる実験をして有用性を感じている。
6/4現在ではレスポンスの遅さなどが原因で本格的に統合はしていないが、性能問題は時間が解決するだろう。
その先の未来ではチャットはベースラインであり、チャットに何を付け加えると知的生産性が高まるかの模索が必要になるだろうと感じている。
これはチャットの「人間からの入力を受け取って、素早く出力を返す」ではなく、Scrapboxを読んで書く形の実装
1.4 ScrapboxとChatGPTを駆使した新たなブレインストーミングの形
3/1のChatGPT APIのリリースを受けて、ScrapboxとChatGPTとを接続するツールを作った。
筆者のScrapboxには書籍にして60冊分のテキストデータがあるため、これをベクトル検索してChatGPTに対して参考資料として与える仕組みだ。
追記:
このツールを公開したところ、何人もの人が自分のScrapboxで作ったデータを公開してくれた。
異なるデータを使えば、同じ議題に対しても、異なった反応をする。
つまり、意見の異なる仮想人格だ。
24時間いつでも自分の都合が良い時に、多様な視点を持った仮想人格を集めてブレインストーミングを開催できる。
実例:
(西尾) 司会の西尾です。人間です。今日はですね、/tkgshnの協力の元、このScrapbox/nishioとtkgshnのScrapboxとクオリアさん/qualia-sanのScrapboxをそれぞれ読み込ませたChatGPTを用意し、個別の人格とみなしてパネルディスカッションをやってみたいと思っています！AIが出力したものは無編集で出し、司会が頑張ります。 Scrapboxはブログと比較して、短い記事が時間をかけて精製されていくことを支援する仕組みなので、仮想人格化と相性が良いように思う。
また、古典の名著を仮想人格化することも面白いだろう。
かつては過去の偉人と会話するには、人間が書籍を読んで自分の中にエミュレータを作る必要があった。 そのエミュレータ作成コストが格段に下がった。
書籍の内容を一度噛み砕いてふせんにし、それを自分で再構築することで、自分の中の理解を育て、川喜田二郎の考え方のモデルを作ったわけです。これを私は「自分の中に川喜田二郎エミュレータを作る」と呼んでいました。
1.5 主観の多様性: 正しさと有用性は別物
すべてのものに間違いの可能性があるから、異なる視点からの見え方を集めて判断することが大事ということだ。
https://gyazo.com/876846458defc68892b23f356481817b
別の言い方をすると、主観を排して客観に進むのではなく、「一人の主観」から「大勢の主観」へと進むアプローチだ。
一方で世の中にはChatGPTが客観的に正しい答えを返すことを期待して、失望する人がいる。
そのようなAIがあれば有用だが、現時点のホモサピエンス文明はまだそれを生み出していない。
それを嘆いても無益だ。
嘆いたところでコントロールできるものではないからだ。
今使える道具を有益に使うことは、使い手のスキルの領域であり、コントロールできる。
2．社会的影響とシステムの正統性
2.1 社会変化の方向性とPlurality
この企画では社会変化の可能性に関しても書いて欲しいそうだ。
社会変化が起こることに議論の余地はない。
問題は「社会変化の方向性」だ。
どの方向に変化するのが良いかを考え、悪い方向に進まないように舵を取る必要がある。
AIによる生産性向上によって、政府の力が強くなりすぎる懸念がある。
そこでAIを使って民衆の力を強くしなければバランスがとれない。
この方向性のことを「Plurality」と呼ぶ。
「シンギュラリティ」の中にある「Singular(単数)」の対義語「Plural(複数)」を使っている。 単一の中央政府と多様な人々を対置する表現だ。
2.2 ブロードリスニング: 大勢の意見を「聞く」能力の増強
先ほど概念に名前がつくことで知的生産性が強化されると話した。
Pluralityの議論の中でAudrey Tangが使った「ブロードリスニング」という言葉は有益だと思う。 大勢の人々が仲間の意見の分布からエッセンスを抽出して「聞く」ことだ。
彼女はこれを支援する技術が大規模で民主的な熟議を強化すると考えている。 関連:
つまり技術による人間の知的生産能力の増強だ。 #人間増強 情報通信技術の発達は一人の人が大勢の人に意見を伝えることを可能にした。
例えば社員1000人の会社の社長が社員全員に声を届けることは動画配信などで容易に実現できる。
しかし、1000人の社員が社長に10分の動画を送ると、社長はそれを視聴するのに7日×24時間掛かる。
大勢の意見を聞くことがボトルネックになっているわけだ。
https://gyazo.com/8aed1a6ee239c672d1e504cdb48d0e9e
2.3 デジタル化によるボトルネックの解消が社会構造を変化させる
組織が階層構造を必要としたのは、生身の人間が1000人の話を聞けなかったからだ。 だから人力で情報を要約するために中間管理職を間に挟む必要があった。 間接民主制が必要になったのも、全員の話を聞くことができなかったからだ。 だから人々は、自分たちの意見を代表し、自分たちの代わりに議論をするために代議士を間に挟む必要があった。 Audrey Tangは選挙を4年に数ビットしかアップロードできない貧弱なインターネットに例えている。
「大勢の主観」を要約しブロードリスニングを可能にする技術の発展は、社会の構造を変えていくだろう。
関連:
コストが下がれば構造が変化する。
既存のコスト構造で最適だったシステムが新しいコスト構造でも最適とは限らない。
Fig1「一部が消えて、一部が残り、新しく生まれる」を再度見てみよう。
https://gyazo.com/78a6a9aa82f0d0f623829f63637a7c73
再掲: Fig1: 移動=一部が消えて、一部が残り、新しく生まれる
今コストが見合わなくて実現されていないものが、コストの低下により新たに実現可能となる。
2.3 未知の知識を探究する未来の学生へ
将来が不安になっている人もいるだろう。
実験を行い、その結果を言葉に紡ぐ。
ただし、自分の情報発信の読者が生身の人間なのかAIなのかを意識する必要はあるだろう。
私は書籍の著者として、今後も書籍執筆に時間と労力を投じるべきか葛藤している。
書籍はFig1の中の「消えていくもの」だろう。
この記事は自分のScrapboxで公開できることを条件に引き受けた。
2.4 個々人の行動がシステムを正統化する: 客観か？主観か？
新しいシステムの方が良いと思った人々が新しいシステムを使うようになり、
人が集まるにつれてそのシステムの正統性が高まっていく。 追記: 「人々が何を選択するか」が投票として機能するという話 AI関連の論文では、まず査読前論文(プレプリント)をarXivに登録することが行われるようになった。 しかし人々の行動が一種の投票として機能し、システムを正統化する。
もしChatGPTが優先して学習するプレプリントサーバをOpenAIが作ったら人々はそちらに投稿するだろうか？
論文以外でも投稿可能なら、企業は自社製品のマニュアルを投稿するだろうか？
人々はブログ記事を投稿するだろうか？
投稿された文章の有用性が大勢の主観によってスピーディーに判定されるようになったら、 まだ科学が客観的な答えを出せないテーマに対して、
AIが「大勢の主観」のエッセンスを出力できるようになったら、
人々は客観を待たずに主観を選ぶだろうか？
改めて振り返ってみると、この企画はChatGPTに関して、それぞれの著者の主観を集めるためのものと言えるだろう。
もう答えは出ているのかもしれない。
- - - - -
西尾泰和（正会員）
サイボウズ・ラボ株式会社 主幹研究員。一般社団法人未踏 理事。博士(理学)、技術経営学修士(専門職)
人間は文明の乗り物で、人間の物理的身体はキャッシュに過ぎず、オープンアクセスの場に発した情報が自分の本体だと認識している。 関連:
- - - - -
その後の出来事
民主的プロセスの改善を目指すものである
Community Notesは"Is this note helpful?"という質問で個人にとっての主観的な有用性を収集している 8/15現在、AIの支援でSFプロトタイピング(近未来ストーリーを作らせて議論のきっかけにする)という方法でのより良い議論の仕組みづくりを模索中
- - - - -
後で答える
- - - - -