decentralized market-based RLHF
The promise and challenges of crypto + AI applications
0xtkgshn AI as a player in a game
AIを作るためのアノテーションをクラウドワーカーによって行わせる。そのクラウドワーカーがAIであっても問題ない。(Vitalikは”decentralized market-based RLHF”と呼んでいる)
そのクラウドワーカーはブロックチェーンベースのアノテーションプラットフォームで集められ、
schelling point メカニズムを使うことによって、群衆の知恵を発揮し、信頼できる中立性を持ったデータを生成することができる
エシカルデータ:
「誰がそのデータをアノテーションしたのか」を遡ることが可能
クラウドワーカーへの賃金計算には、ピア予測法を使う。回答の貢献度に応じて支払われる。