decentralized market-based RLHF
The promise and challenges of crypto + AI applications
0xtkgshn
AI as a player in a game
AIを作るためのアノテーションを
クラウドワーカー
によって行わせる。そのクラウドワーカーがAIであっても問題ない。(Vitalikは”
decentralized
market-based
RLHF
”と呼んでいる)
そのクラウドワーカーはブロックチェーンベースの
アノテーションプラットフォーム
で集められ、
schelling point
メカニズムを使うことによって、
群衆の知恵
を発揮し、
信頼できる中立性
を持ったデータを生成することができる
エシカルデータ
:
「誰がそのデータをアノテーションしたのか」を遡ることが可能
クラウドワーカーへの賃金計算には、
ピア予測法
を使う。回答の貢献度に応じて支払われる。