ChatGPTについてのコラムの準備2
2023-05-22
--- log
/nishio/kei.iconあなたはこの会話で何がどうなるとよいのでしょう？
/nishio/human.iconChatGPTについてのコラムを書いてと頼まれたのでそれについて話すことで思考を整理したい
/nishio/kei.iconその「ChatGPT」は、どんな「ChatGPT」ですか？
/nishio/human.iconLLMの上にInstuctionGPTの追加学習をして技術的知識のない一般人でも結果を引き出せるようにしたもの。依頼の時点ではChatGPTしかなかったけど今となっては多種多様なサービスがあるわけなので個別のサービスではなくLLMにが何をもたらすのかを論じた方が良いと思う
/nishio/kei.iconその「ChatGPT」について、他に何かありますか？
/nishio/human.iconChatGPTについての記事を書いてという依頼があって、何を書くか考えてたんだけど、言語モデルが賢くても「人類がまだ知らない=言葉になってない知見を得てそれを言葉にすること」の需要がなくならないことと、その言葉になったものが速やかにAIに学習されなければ非効率ということから、当然の帰結として研究結果は速やかにオープンアクセスになるべきであって、オープンアクセスではない投稿はAIを介した言及が得られないことによるネガティブインセンティブを受けるようになり…という流れを考えてたらDeSciに言及する必要があるような気がしてきた
/nishio/kei.iconあなたはその「ChatGPT」をどう知るのですか？
/nishio/human.iconサービスを実際に使うことで知る。ブラックボックスなので中身はわからないね。APIを使うことでもう少し中身がわかる。それに関連して最近GPT-4を経験しないでChatGPTを語るなという記事を書いた
/nishio/kei.iconその「ChatGPT」は、どのあたりにありますか？
/nishio/human.icon続き: 結局のところAIが生産性を高めるなら人は対価を払ってでもAIを使うインセンティブが発生し、その生産性向上の幅が大きくなればなるほどAIに対して対価が集まるのだから、AIはみずからを強くするための公共事業としてAI可読性の高いフォーマットでの研究発表にグラントするよね、ということ
/nishio/kei.icon
サービスを実際に使うことで知る。ブラックボックスなので中身はわからないね。APIを使うことでもう少し中身がわかる。それに関連して最近GPT-4を経験しないでChatGPTを語るなという記事を書いた
この「ChatGPT」は、どこにありますか？
/nishio/human.iconOpenAIのサーバの中だね、Azureと言ってもいいかも
/nishio/kei.icon
サービスを実際に使うことで知る。ブラックボックスなので中身はわからないね。APIを使うことでもう少し中身がわかる。それに関連して最近GPT-4を経験しないでChatGPTを語るなという記事を書いた
この「ChatGPT」は、何のようですか？
/nishio/human.icon人間も中身はブラックボックスで会話をすることで表面的にしか知ることができないので似たようなもの
/nishio/kei.iconその「中身」は、どんな「中身」ですか？
/nishio/human.icon内部実装。続き: DeSciに誰が金を出すんだ問題、金を出すのが人間だとは限らない、むしろリソース分配の意思決定メカニズムが非中央集権になれば、資金を入れるためにつなぐパイプが人間であるよりはそれ自体を人間の介在しないメカニズムにしてしまう方が良いよねとなる
/nishio/kei.iconその「DeSci」は、どんな「DeSci」ですか？
/nishio/human.icon科学についての新しいムーブメント
/nishio/kei.iconその「新しいムーブメント」は、どんな「新しいムーブメント」ですか？
/nishio/human.icon正直あまり詳しくないな
/nishio/kei.iconその「正直あまり」は、どんな「正直あまり」ですか？
/nishio/human.icon👎正直あまり
/nishio/kei.icon
内部実装。続き: DeSciに誰が金を出すんだ問題、金を出すのが人間だとは限らない、むしろリソース分配の意思決定メカニズムが非中央集権になれば、資金を入れるためにつなぐパイプが人間であるよりはそれ自体を人間の介在しないメカニズムにしてしまう方が良いよねとなる
この「DeSci」について、他に何かありますか？
/nishio/human.iconオープンアクセスかどうかが問題、そのオープンアクセスに関して、既存の出版社にはクローズドにしてアクセスするために通行料を取るインセンティブがあり、AI開発にとってはオープンアクセスにしてAIが読むことにインセンティブがある、二つのビジネスモデルの衝突が起きる、後者が強いと思う
/nishio/kei.iconあなたが価値を感じているのは何ですか？
/nishio/human.icon文明が進歩すること、オープンアクセスであることは進歩を加速する
/nishio/kei.icon
サービスを実際に使うことで知る。ブラックボックスなので中身はわからないね。APIを使うことでもう少し中身がわかる。それに関連して最近GPT-4を経験しないでChatGPTを語るなという記事を書いた
この「ChatGPT」は、どこから来るのですか？
/nishio/human.iconOpenAIだね、LLMはどこからと考えるなら企業間の競争とオープンな研究からくる
/nishio/kei.icon
サービスを実際に使うことで知る。ブラックボックスなので中身はわからないね。APIを使うことでもう少し中身がわかる。それに関連して最近GPT-4を経験しないでChatGPTを語るなという記事を書いた
この「ChatGPT」に関して、何が起こるとよいですか？
/nishio/human.icon人間の知性を増強してほしい
/nishio/kei.iconそれには「ChatGPT」に何が起こる必要がありますか？
/nishio/human.icon今は人間が質問してLLMがそれに答える形の使われ方が多いけど、人間にLLMが質問して人間から情報を引き出す使い方をもっとやった方がいい
/nishio/kei.icon「ChatGPT」に関して、それができますか？
/nishio/human.iconできる、人々がその使い方の有用性に気づけば良い
/nishio/kei.icon
今は人間が質問してLLMがそれに答える形の使われ方が多いけど、人間にLLMが質問して人間から情報を引き出す使い方をもっとやった方がいい
この「LLM」は、どんな「LLM」ですか？
/nishio/human.icon要約して
/nishio/kei.icon- 言語モデルには人間が知らないことを言葉にする能力がある。
- その能力をAIに学習させることが必要であり、公共事業的にAIの可読性の高いフォーマットでの研究発表にグラントすべきだ。
- リソース分配の意思決定メカニズムが非中央集権になるといい。
- 既存の出版社による通行料を取ったオープンアクセスとAI利用のためのオープンアクセスのビジネスモデルが衝突する。
- LLMの質問応答による使い方に加え、AIに人間から情報を引き出す使い方を行うべきだ。
- 人々にAIの有用性を伝えるべきだ。
/nishio/human.icon他の話題
/nishio/kei.iconその「話題」は、どんな「話題」ですか？
/nishio/human.iconAIの電話交換手
コミュニケーションの開始プロトコル
人間の心の中にあるまだ言葉になっていないものを言葉として取り出すこと
言葉でない通信路が太くなるまでは必要
生身の人間
100人の話を聞くことはできない
人間が新しい知識を発見し
それを他の人に伝える
価値創出
その手段
歴史的経緯で使われているレガシー手段
残る、消える
0/1で考えるのは誤った二分法
定住して農耕する民
気候が変動
移動する
適切な移動先を移動開始前に知ることができるか？
できない
移動せずに留まったまま、狭い視野での観測に基づいて意思決定をすることは有害
自分の「専門分野」にこだわらず、
フットワーク軽くいろいろな分野を見て回ることが有益だ。
身体は一つしかないから留まるか移動するか二者択一だった。注意は分割できる。
「今まで通り」を選ぶことも、賭けの選択肢
極端な賭け方をしている
賭けから逃れることはできない
/nishio/kei.iconその「川喜田二郎」は、どんな「川喜田二郎」ですか？
/nishio/human.iconKJ法というたくさんのデータからより良い判断を導く方法を作った人
/nishio/kei.iconその「KJ法」は、どんな「KJ法」ですか？
/nishio/human.icon断片的な記述を二次元に空間配置してボトムアップに構造化する
/nishio/kei.iconその「ボトムアップ」は、どんな「ボトムアップ」ですか？
/nishio/human.icon先に構造を決めるのではなく、関連のありそうな断片が結びつくことによって事後的に構造が生まれる
/nishio/kei.iconその「断片」は、どんな「断片」ですか？
/nishio/human.icon短い文章。思考のエッセンス
/nishio/kei.iconその「思考」は、どんな「思考」ですか？
/nishio/human.icon正確にいえば思考ではなく、観察して集めたデータだな。思考する自分を観察して集めたデータも含まれる
/nishio/kei.iconその「思考」について、他に何かありますか？
/nishio/human.iconLLMが人間の思考を増強するか、もしくは人間よりも良く思考できるようになる必要がある
/nishio/kei.iconその「LLM」について、他に何かありますか？