Deliberation Technology: Generative CI through 'Collective Response Systems'
https://gyazo.com/c324fabfd1ace1b3a205a534cf00d435
https://www.youtube.com/watch?v=RyObAHv777E&t=9946s
要約 by GPT-4.iconnishio.icon
こんにちは。私はAIプラットフォーム、情報システム、およびガバナンスの交差点で働く者です。今日は、熟議(deliberation)技術について簡単な概要を説明します。具体的には、生成的集団知能(Generative CI)の潜在能力と実践について説明します。これは、出力が選択肢ではなく、参加者がそれらを作成するグループ意思決定プロセスを意味します。ガバナンスや人間でできたGPT-3のようなものを考えてください。 この技術が重要な理由は、社会のあらゆるレベルで生成的な質問が多く存在し、地域社会の改善、地政学的紛争の解決、強力なAIシステムとどのように共存していくかといった問題があるためです。しかし、熟議はスケールが難しく、人々は発言力を持たず、インサイトが見逃され、注目度が争いを引き起こす傾向があります。
解決策の1つとして、単純な民主的理想を試みることがあります。質問やプロンプトがあると、誰もが回答し、誰もが聞かれ、グループを最も代表するものが選ばれます。これは抽象的なだけでなく、多くの人がこのようなシステムを構築または支援するために働いています。例えば、コリン・マッギルが開発した「Polis」があります。 これらの生成的集団知能システムの本質は、グループとプロンプトが与えられた場合、回答を収集し、それらを評価し、グループを最も代表する意味のある生成的出力に凝縮することです。言語モデルを使用して、どのように効率的に皆が互いに話すことができるかを改善することも可能です。
しかし、これらのシステムは万能ではありません。決定や注意の配分に関しては、議会の一端からエンゲージメントシグナルの他方まで、さまざまなアプローチが存在します。また、人間同士の深い対面での相互作用も重要です。
これらのシステムの設計を改善し、世界中のさまざまな規模の組織で使用されるようにする必要があります。私は特に、強力な技術企業やAI研究所に焦点を当てていますが、社会のあらゆるレベルでこれらが必要です。ここには、未開拓の可能性がたくさんあり、多くの仕事があります。多くの分野でリスクや課題がありますが、私がこの論文に関する完全な草稿やその他のリンクを入手できるようにメールで連絡してください。リンクは、公開されたときにウェブサイトに掲載されます。
これは、はるかに大きなビジョンと方向性の一部にすぎません。その一環として、強力な技術企業が市民議会からこれらの効率的で生成的なCIモデルまで、あらゆるレベルの審議を利用するのを支援することがあります。このような仕事がたくさんあり、皆さんと一緒に取り組むことを楽しみにしています。