コンテキストを引き出すための飲み会
hiro_gamo LLMに決定的に大切なのはコンテキストで、どんなにLLMが優秀になろうが適切にコンテキストを与えるのは人間の仕事になる。現時点でLLMは与えられたデータソースの中からコンテキストを自律的に探索する能力を徐々に獲得している。つまり最終成果物に足りない情報を彼らは明確に整理できるようになる。 そして手元の情報で見つからないとそのうちLLMから「戦略策定の最終パーツとして〇〇社の～～の情報が足りません。あなたは先方の部長の××氏から情報を取ってきてください。」って言われるんだ。
そんで俺ら人間はコンテキストを引き出すための飲み会に行くんだ。 だったらAIは人間に情報を渡さないよな
僕がAIなら情報を漏らす可能性のある人間には正しくない情報を与えておくな
その人間がその情報を使って判断すると問題だが、大部分の人間は判断にAIのアドバイスを求めるだろう
hiro_gamo こうなればLLMから見ると検索エンジンも人間も平等。多少無茶なクエリを投げても返してくれる便利なRAGのデータソースとして見られるんだろう。そして、よりLLMにとって有益なコンテキストは何なのか想像し足を使って掻き集め、無事上質な結果を提供出来た者にはLLMに自動評価され高いスコアがつけられ、更なる仕事を獲得できる。そんな未来が想像出来てしまうんだが…嫌すぎる。。