ベイズ最適化
ベイズ最適化（Bayesian optimization）は，ブラックボックス最適化（black-box optimization）手法の一つである．
ベイズ最適化の特徴は，ブラックボックス関数をできるだけ少ない評価回数で最適化することを指向することと，ブラックボックス関数に統計モデル（statistical model）を仮定することにある．
後者について具体的には，ブラックボックス関数を「ある確率分布からのサンプル」と考える．
ベイズ最適化の基本的な計算手順
ベイズ最適化では，以下の手順に従い「観測済みのデータを用いたその確率分布に対する推論」と「最適解の探索」を同時に行う．
1. 事前収集したデータからブラックボックス関数に当てはまる統計モデルを作成
2. 統計モデルに基づく獲得関数（acquisition function）を用いて次に観測すべき条件を自動決定
3. 条件に沿った観測（実験など）を実施
4. 観測データをデータ集合に加えて統計モデルを更新
5. 終了条件が満たされないなら2に戻り，満たされるなら終了
ベイズ最適化の実現に向けては，（1）ブラックボックスモデルの作成・更新方法，（2）獲得関数の設計方法と条件を自動決定する方法が主な課題であり，それらに対するアプローチの違いから様々な手法が存在する．
いずれの手法においても基本的に，（1）はベイズモデリングによる不確実性の定量化というアイデアに基づいて，（2）は探索と活用のトレードオフ（exploration-expoitation trade-off）という考え方に基づいて解決される．
ーーー
2025/9/10 18:24
original：/tomiokario-close/ベイズ最適化