Claudeの幻覚をおさえる、プロンプトテクニック

ポイント

以下のプロンプトを使えば、まるっと幻覚を減らす

code:プロンプト

- 何らかの側面について不確かな場合や、レポートに必要な情報が欠けている場合は、「これを確信を持って評価するのに十分な情報がありません」と言ってください。

- ドキュメントが与えられた場合は、後で質問されることになるので、注意深く読んでください。

- ドキュメントを含むタスクの場合は、タスクを実行する前に引用を正確に抽出し、抽出した引用のみに基づいてタスクを実行してください。

関連

概要

最も高度な言語モデルであるClaudeでさえ、時として事実に反する、または与えられた文脈と一致しないテキストを生成することがあります。

この現象は「幻覚」として知られており、AIを活用したソリューションの信頼性を損なう可能性があります。このガイドでは、幻覚を最小限に抑え、Claudeの出力の正確性と信頼性を確保するためのテクニックを探ります。

幻覚を最小限に抑える基本的な戦略

Claudeに「わからない」と言わせる

明示的にClaudeに不確実性を認める許可を与えます。

この単純なテクニックで、誤った情報を大幅に削減できます。

例：合併・買収レポートの分析

code:プロンプト

M&Aアドバイザーとして、A社のレポートを分析してください。

<report>

{{レポート}}

</report>

何らかの側面について不確かな場合や、レポートに必要な情報が欠けている場合は

「これを確信を持って評価するのに十分な情報がありません」 と言ってください。

事実に基づく根拠付けのための直接引用を使用する

例：データプライバシーポリシーの監査

code:プロンプト

データ保護責任者として、このGDPRおよびCCPA準拠のための更新されたプライバシーポリシーを確認してください。

<policy>

{{ポリシー}}

</policy>

1. GDPRおよびCCPA準拠に最も関連するポリシーから、正確な引用を抽出してください。

関連する引用が見つからない場合は、「関連する引用が見つかりません」と述べてください。

2. 抽出した引用を使用して、これらのポリシーセクションの準拠性を分析し、引用番号を参照してください。

分析は抽出した引用のみに基づいて行ってください。

引用で検証する

Claudeの応答を監査可能にするために、各主張に対して引用や出典を示させます。また、応答を生成した後、Claudeに各主張を裏付ける引用を見つけさせることもできます。引用が見つからない場合、その主張を撤回しなければなりません。

例：製品発表に関するプレスリリースの作成

code:プロンプト

これらの製品概要と市場レポートからの情報のみを使用して、新しい製品AcmeSecurityのプレスリリースを作成してください。

<documents>

{{文書}}

</documents>

作成後、プレスリリースの各主張を確認してください。

各主張について、文書から直接引用を見つけて、それを裏付けてください。

主張を裏付ける引用が見つからない場合は、その主張をプレスリリースから削除し、削除された箇所を空の[]括弧で示してください。

高度なテクニック

思考連鎖の検証

最終的な答えを出す前に、Claudeにその推論を段階的に説明させます。これにより、誤った論理や仮定を明らかにすることができます。

N回の最良検証

同じプロンプトでClaudeを複数回実行し、出力を比較します。出力間の不整合は幻覚を示している可能性があります。

反復的な改善

Claudeの出力を後続のプロンプトの入力として使用し、前の声明を検証または拡張するよう求めます。これにより、不整合を捕捉して修正することができます。

外部知識の制限

提供された文書からの情報のみを使用し、一般的な知識を使用しないようClaudeに明示的に指示します。

これらのテクニックは幻覚を大幅に減少させますが、完全に排除するものではありません。常に重要な情報を検証してください。特に重大な決定を行う場合は注意が必要です。