LlamaIndex
nishio.icon雑な解説:
GPT3に、学習時に使われていないデータを参考資料としてプロンプトに含めることで 学習時に存在しなかった最新の情報
電子書籍などの著作権的にインターネット上でアクセス可能にできないデータ
グループウェアの中の顧客コンタクト履歴のデータなど社外に公開できないもの
〜をGPT3が使うことができるようになる仕組み
典型的な利用法:
クエリー文章に対して、関連のある文書をベクトル検索で見つける
その文書をGPT3へのプロンプトに埋め込む
ほぼ数行で終わっている
ChatGPTのトークン数は有限なので、知識をそのまま与えてしまうと乗り切れない