プロンプトエンジニアリングまとめ
プロンプトエンジニアリング一覧
ICL(コンテキスト内学習: In Context Learning)
Zero-Shot
Few-Shot
Many-Shot
CoT (Chain-of-Thought)
Zero-Shot CoT
Automatic Prompt Engineer (APE)
正しい答えを得るために、ステップバイステップで考えて
COT ファミリー
チェーンの構造
ToT (Tree of Thoughts)
GoT (Graph of Thoughts)
チェーンのモダリティ
PAL (プログラム支援言語モデル)
AoT
チェーンの信頼性
Self-Consistency
多数決
Faithful CoT
推論タスクを2段階に分解する
Think More Step
さらに、もっと多くのステップで考えてください
チェーンの分解
Least to Most
全体の問題を簡単な部分問題に分けて回答を得る
Plan and Solve
計画を立ててから実行せよ
ReAct
フィードバック
Self-Refine
RCI(Recursively Criticizes and Improves)
Reflexion
CoTで気をつけるべきこと
CoTで気をつけるべきこと
外部の知識をかりるテクニック
Generated Knowledge Prompting
タスクの助けとなるような知識を上手く生成し、解かせたい問題のプロンプトに統合する
RAG
汎用的なテクニック
Role-Play Prompt
Echo Prompt
質問を繰り返そう
Re-Reading
Q: <質問> 質問をもう一度読む: <質問> A: ステップバイステップで考えてください
Rephrase and Respond (RaR)
質問を言い換えて、拡張し、そして答えてください
Take a Deep Breathe
PaLM2におけるGSM8Kの正答率が高くなる
step by stepと併用すると、Automatic Prompt Engineer (APE)との併用より精度が高くなる
Take a Step Back
ステップバック質問をLLMにすると?
EmotionPrompt
Instruction InductionとBig-Bench、TruthfulQAで有効
Meta Cognitive Prompt
NLUタスクで有効、(実験で、推論タスクでも効果あり)
タスクに特化したテクニック
CoD (Chain of Density)
要約
Chain of Table
データ分析
Self-Discover
推論
ステップバイステップより精度が高いテクニック
ステップバイステップより精度が高いテクニック
コードが必要なテクニック
Auto-CoT
Meta-CoT
AoT (Algorithm of Thoughts)
CoVe (Chain-of-Verification)
判断に悩むテクニック
Least to Most
一発でバシッとプロンプトを作れるわけではなく、何度か対話を繰り返す手法。
少し手間で、現実的にはあまり使い所がないかもしれない
CoT Decomposition
プロンプトの作り方がはっきりしない
subquestionとanswerを用意するのがかなり大変そう
Self-Refine
タスクの開始とフィードバックに、Few-Shot例を複数用意する必要がある
工数がかかりすぎて、実用的ではない
Self-Translate
一度英語に翻訳して、出力を得てから元の言語に戻す手法.
GPTが実験対象になっておらず、サイズが一桁小さい
プロンプトで気をつけること
⚠️スタイルで大きく変わってしまう
プロンプトのバタフライ効果論文
スペース、挨拶、感謝の追加、言い換えの変化、チップは回答精度に影響を与えない
出力形式は、何も指定しないが一番精度高く、ついで、JSON構造、リスト形式が高い
プロンプトのフォーマットの影響調査論文
細かいプロンプトのフォーマットが、大きな違いを生んでくる
LLMは不公平な評価者 論文
2つの出力を比較するとき、1番目か2番目かで位置バイアスがでてしまう。
⚠️トークン関連の制限問題
LLMに入力できる日本語の文字数とトークンの関係
GPT-4におけるコンテキストウィンドウとRecallの関係
Lost in the Middle論文
プロンプトの最初か最後に重要情報を入れた方が良い
⚠️ハルシネーション
幻覚スノーボール
ハルシネーション対策まとめ
/icons/hr.icon
もっと、たくさんのAI情報を知りたいあなたへ...
現在週に1度の頻度で、AIの最新情報や活用ノウハウを、メルマガ限定で発信しております。
一人でも多くの方にとって、「AI人材としてのスキルアップ」につながれば幸いです^^
また、現在、登録者限定で「AIをフル活用した新しい知的生産管理」の実演解説動画を配布中です 🎁
※ ご登録完了のメールに、URlのリンクを添付いたします。
以下のリンクから、ぜひお受け取りください👇
https://utage-system.com/p/atIZdyG7zUPv