プロンプト設計戦略（Gemini API）

Google AI Studio には、このガイドで説明する多くのコンセプトをインタラクティブに紹介するシンプルなプロンプト ギャラリーが用意されています。

明確で具体的な指示にする

少数ショットの例を含める

コンテキスト情報を追加する

接頭辞を追加する

モデルに部分的な入力を任せる

部分的なコンテンツを提供すると、モデルは残りのコンテンツ、またはコンテンツの継続として認識したコンテンツをレスポンスとして提供できます。

プロンプトを単純なコンポーネントに分割する

temperature

topK

topK が 1 の場合、選択されるトークンは、モデルの語彙内のすべてのトークンで最も確率の高いものであることになります（グリーディ デコードとも呼ばれます）。

topK が 3 の場合は、最も確率が高い上位 3 つのトークンから次のトークン選択されることになります（温度を使用します）。

topP

トークンは、確率の合計が topP 値と等しくなるまで、確率の高いものから低いものへと選択されます。

たとえば、トークン A、B、C の確率が 0.3、0.2、0.1 で、topP の値が 0.5 だとします。このとき、モデルは次のトークンとして A か B を温度を使って選択し、C は候補から外します。

デフォルトの topP 値は 0.95 です。

プロンプトの反復処理に関する戦略

IMO：Ng先生の講義で見たやつっぽい

フォールバック レスポンス

フォールバック レスポンスは、プロンプトまたはレスポンスのいずれかが安全フィルタをトリガーした場合に、モデルが返すレスポンスです。

フォールバック レスポンスの例としては、「私は言語モデルにすぎないため、それについては対応できません」が挙げられます。

モデルがフォールバック レスポンスを返す場合は、温度を上げてみてください。