HCI’s For Aligned Governance in the AI Age
https://www.youtube.com/watch?v=cL0WRRfFNtw
AIアラインメントの問題に取り組むには、人間同士のコーディネーションを改善する必要がある。AI Objectives Instituteでは、この目的のためのツール開発を行っている。 例えば、AIシステムを使って、AIリサーチャーの意見を幅広く集約・分析し、共通の見解や論点を明らかにする「タウンホールディスカッション」のシミュレーションを行っている。
これにより、AIアラインメントコミュニティ内の多様な意見を可視化し、合意形成に役立てることができる。 メタカラスでは、政策立案者向けのシナリオ思考と、フォーキャスターの具体的な指標を結びつけるワークショップを実施している。
人間のコーディネーション能力を高めるAIアラインメントシステムの構築は、AIのアラインメントと人間のアラインメントの両方に役立つと考えられる。