AIを使った検索エンジン

@hiro_gamo: いまエンタープライズ企業が最も求めてるのはドキュメントや画像からテキスト抽出して、ChatGPT用にいい感じにチャンクしてEmbeddingしていい感じにインデックス化してくれる検索エンジンの機能。

前半はあるんだけど、後半が弱い。でも出来たら泣いて喜ぶ人たちが沢山いる。

@_kaiinui: Fine-tuning は大変なので、一般的なユースケースでは In-context learning の力を最大限活用できるステートフル API は結構なゲームチェンジャーな気がする

原理的には状態を保存して何度も再利用できると思うので、もしそうなればトークン長とかすべて無視して、ベースプロンプトを使いまわし放題