Automatic Prompt Optimization
https://arxiv.org/abs/2305.03495Automatic Prompt Optimization with "Gradient Descent" and Beam Search
LLMのプロンプトを改善するための勾配降下法とビームサーチによる自動プロンプト最適化（APO）
まとめ by bing.icon
APOは、データのミニバッチを使用して、現在のプロンプトを批判する自然言語「勾配」を形成
勾配は、勾配の逆方向にプロンプトを編集することで、プロンプトに「伝播」される
アルゴリズムは、ビームサーチとバンディット選択手順を使用して効率を向上させる
初期プロンプトの性能を最大31％向上させることができる
参考
Microsoft AI Research Introduces Automatic Prompt Optimization (APO): A Simple and General-Purpose Framework for the Automatic Optimization of LLM Prompts
脱プロンプトエンジニアリング