秘密情報をLLMに垂れ込んで金に変える人の大量発生
ここまでの文脈
nishio ふと気づいたんだけど「巨大LLMが『まだ知らない有益な情報』を与えた人間に報酬を支払う」という構図が生まれたら、人間が新しい情報を作り出す仕事に従事するようになる〜というのはユートピアすぎる想定で、まずその手前に「秘密情報をLLMに垂れ込んで金に変える人」の大量発生が起きる気がした nishio 秘密や嘘の存在しない統合思念体へと進化できるのだからユートピアか！() 0xtkgshn まだ知らないことっていうのはどう判定するんですか？みんなが入れる単語を監視して、とりあえず返答してその返答を評価させて低いやつが「求められてるやつ」で、そこのドメイン知識を入れると報酬を還元とかかな nishio 「まだ知らないこと」と「求められていること」は比較的楽に判断できるけど「回答が嘘ではないこと」の判断が難しい。基本的にはたくさん集めて外れ値を捨てることになると思う。 nishio 求められてること: 人間からよく質問されるが、回答に対する評価が良くないこと まだ知らないこと(まだ知らなかったこと): 与えられた情報が解答になるような質問文を生成して旧バージョンに回答させ、与えられた情報を出力できないこと
0xtkgshn ちょっと話変わるけど、予測市場は単なる取引でエンドユーザーの利益以外にも、その取引の収束点を見ることで情報を集められるってのを思い出しました。市場から得られる情報の方が普通の善意のユーザーよりも精度が良い nishio あーでも外れ値を捨てるスタイルだと「大部分の人の予想と違う真実」が弾かれちゃうのか… nishio なるほど、確かに。嘘情報であった場合に損失を被るなら適当な情報をインプットする人に対する抑止力になるし、賭け金の額を人間が決めるならそれが確信度の表明とみなせるのか sirouto 素朴な疑問で恐縮ですが、ネットからタダで学習できるのに、報酬を払うでしょうか？ 未知の情報を買うにしても、信用情報が必要です。たとえば、「A社」が来年に新製品を出す情報は、文章の機械学習で真偽を判断できません。むしろ、検索と同様に掲載料を取り、AIの回答にリンク広告を載せそうです。 nishio ネットからタダで学習できる情報が学習し終わり、他の情報をどうやって手に入れるかの競争になった後の話です。真偽の判定をAIがやる必要はなく、人間に与えて人間が有用かどうかの判定をすれば良いです。 nishio 他の情報と照らし合わせて嘘を教えたと判断された場合、アカウントがバンされて経済的に死ぬので抑止力が発生します