ChatGPTで遊ぶ

この辺の記事を見て面白そうなので読んでみる。

やりたいこと

任意のテキスト群があって、その文章の言葉遣いとかを真似て質問に回答してくれるAIを作りたい。

例えば豫風瑠乃｜つばきファクトリーオフィシャルブログ Powered by Amebaのブログ記事の言葉遣いを学習させて回答させる、とか

とりあえずOpenAI APIに登録。電話番号が必要。3ヶ月間$5分のクレジットがもらえる。

nishioさんの記事(/nishio/自分のScrapboxをChatGPTにつないだ)によるとやることとしてはざっくりと下記。

ScrapboxのデータからOpenAI APIで埋め込みベクトルを作る

クエリー文章に関連のある文書をベクトル検索で見つける

その文書をChatGPT APIへのプロンプトに埋め込む

ということは「埋め込みベクトル作成」と「クエリを元にベクトル検索して得た文章」のところはChatGPT関係ないんだ。ChatGPTに無い知識を擬似的に追加して回答させられるようにしてるだけ。自分がやりたいことは返ってくる知識の内容はそれほど重要じゃなく返答の仕方の癖みたいなものを調教したい。となるとどうするのが良いだろうか。

ひとまずWeb版のChatGPTに瑠乃ちゃんのブログの文章を入れてみて試す。

普通にこれで十分だった...

ということは結局プロンプトエンジニアリングじゃん。つまらね〜〜〜。

ChatBotに特定のパーソナリティを宿らせたいと思ってファインチューニングで行けるか？と思いググってたらそれっぽいことしてる人いた

OpenAIのdavinciをお嬢様口調にファインチューニングする｜松xRのnote｜note

質問と想定回答例をセットにして用意しファインチューニングするだけ

200セットのデータを用意したようだが精度が下がっていて微妙そう

openai gpt llm