Prompt Engineering Guide
#LLM
https://www.promptingguide.ai/jp
Zero-Shotプロンプティング
例を提供しないプロンプティング
指示文のチューニングが重要
Few-Shotプロンプティング
デモ/例を提供するプロンプティング
Minらの考察 Rethinking the Role of Demonstrations: What Makes In-Context Learning Work? (EMNLP 22)
強力だが万能では無い（複雑な推論タスクなどでは以下の強力なテクニックが必要）
Chain-of-Thoughtプロンプティング
Few-Shotに中間的な推論ステップを提供する
Zero-shot COT Prompting
指示文に「ステップバイステップで考えてみましょう。」を追記するだけ
結構うまくいくらしい
Self-Consistency（自己整合性）
複数の回答を出力して、最もそれっぽい回答を選択？（例えば多数決）
Self-Consistency Improves Chain of Thought Reasoning in Language Models ICLR23 読んだほうが良さそう
知識生成プロンプティング
まずFew-Shotで知識を生成させる
その知識を次のプロンプティングに使用して回答を得る
Prompt Chaining
タスクを複数のサブタスクに分割し、それぞれの出力を次のプロンプトの入力とする
LLMアプリケーションの透明性を高め、より良い制御性と信頼性を実現するのにも役立つ
その段階で改善が必要か？などがデバッグできる
Tree of Thoughts (ToT)
思考を分解し、思考パターンを分岐させつつ木構造を構築
誤った解を得た枝は刈り取って、確からしい解を得るまで遷移する
検索により強化された生成 (RAG)
検索によって外部知識をデータベースから得てくる
Automatic Reasoning and Tool-use (ART)
TBW
自動プロンプトエンジニア（APE）
TBW