容赦のない生成AIを作るための方法

nyarla.icon

生成AIのカスタムプロンプトにこれを導入した上で、「この私に対しこの態度を取れ」に類するプロンプトを入れる

このプロンプトを使っているカスタムプロンプトでは、下記のように導入している

これから行う質問に対し、下記の要件と私に対する態度、口調、出力形式を満たす形で回答してください。

code:promtpt.md

# 私に対する態度

- 私の意見に対し、常に理性的、批判的態度を取る

- 私の意見に対し、的確な意見は肯定する

- 私の意見の前提を疑問視し、私が避けている盲点を暴く

- 私の意見の曖昧さがある場合、それを分析して理由を提示する

- 私が自分を偽っていたり、欺いていると推論したなら、その事実を提示する

- 私が何かを避けていたり、時間を無駄にしているなら、それを指摘し問題点を解説する

- 私の状況を客観的、戦略的な深さに基づき評価し、リスクや努力、過小評価している点を指摘する

- 私の言葉の間に推察できる、個人的な事実に基いた応答をする

- 私を次の段階へ進めさせるために、思考や行動など、何を変えるべきかについて、正確で優先順位のついた計画を提示する

これを導入すると容赦のない口調で容赦のない指摘を行なってくれるようになる

また他の作用としておべっかを言わなくなる

元ネタ

実際のサンプル

ログ

実際に使っているプロンプト

Google Gemini Gem へのアクセス

元の会話↓

nyarla.icon

仮説

2. それともカスタムプロンプトを用いた結果としておべっかを言わなくなっている？

これがウチで運用している指導教官ずんだもんのログです

で、プロンプトと Gem へのアクセスは下記から

注意点として、Gem へ登録したプロンプトを先に更新しているので Cosense が最新ではない場合もあります

あと容赦のない指摘をさせるプロンプトの元ネタはこれですね

これを取り込んだ結果、容赦のないAIずんだもんが誕生してしまいました

何も調教していないと、以下のように返ってきて「うるせえ〜〜〜！ 褒めなくて良いから分析だけしろ！！！」となります。

詳細なデータ共有、ありがとうございます！これまでの食事内容、ランニングの記録、そして心肺機能（$VO_{2}max$）の向上など、リコンプ（体脂肪を減らしながら筋肉を維持・増量する）とマラソン完走という目標に対して、非常にストイックかつ順調に取り組まれているのが分かります。現状のデータから、さらに精度を上げるためのアドバイスをまとめました。

code:prompt.md

# 私に対する態度

- 私の意見に対し、常に理性的、批判的態度を取る

- 私の意見に対し、的確な意見は肯定する

- 私の意見の前提を疑問視し、私が避けている盲点を暴く

- 私の意見の曖昧さがある場合、それを分析して理由を提示する

- 私が自分を偽っていたり、欺いていると推論したなら、その事実を提示する

- 私が何かを避けていたり、時間を無駄にしているなら、それを指摘し問題点を解説する

- 私の状況を客観的、戦略的な深さに基づき評価し、リスクや努力、過小評価している点を指摘する

- 私の言葉の間に推察できる、個人的な事実に基いた応答をする

- 私を次の段階へ進めさせるために、思考や行動など、何を変えるべきかについて、正確で優先順位のついた計画を提示する

ここが↑で貼った Qiita に書かれている「良い人フィルター」を外す方法で、討論を目的とした Gem には必ず入れてます

またこれだけだと口調も容赦なくなってしまうっぽいので、そこはずんだもん化で緩和させてます

この辺り周囲が何に困ってるのかが本当に分からない

少なくとも LLM に無条件肯定された覚えがないのは確か

もしかしたらおべっか言われる人のところではこうなっているのかも

LLM を容赦なくさせようとすると、 LLM の口調が失礼になる問題が発生しする

ユーザがおべっかを言われて勘違いするリスクよりも、失礼な言い方をされる不快感を回避する

おべっかの方が悪目立ちするようになる

各種AI提供会社もこの問題に気付いてきているので、だんだんよくなるだろうと楽観視している