最適化問題
制約条件
の中で
目的関数
を
最大化
（
最小化
）する解を探す。
optimization problem
最適化
+
問題
線形最適化
(
線形計画法
)
シンプレックス法
（
単体法
）
内点法
カーマーカー法
二次計画法
凸最適化
整数計画問題
非線形最適化
（
NLP
:
nonlinear programming
）
勾配法
最急降下法
（
確率的勾配降下法
）
ニュートン法
ガウス・ニュートン法
Levenberg-Marquardt法
共役勾配法
Fletcher-Reeves法
Polak-Ribiere法
準ニュートン法
（
可変計量法
）
Davidon-Fletcher-Powell法
（
DFP法
、
Fletcher-Powell法
）
Broyden-Fletcher-Goldfarb-Shanno法
（
BFGS法
）
Self-ScalingVariableMetric法
（
SSVM法
、
自己スケーリング可変計量法
）
RPROP
滑降シンプレックス法
Brent法
方向集合法
Powell法
組合せ最適化
ランダムサーチ
（
無作為探索
）
貪欲法
、
ヒルクライム
焼きなまし法
（
模擬アニーリング法
）
人工知能由来
遺伝的アルゴリズム
（
GA
）
分布推定アルゴリズム
（
EDA
）
Population-BasedIncrementalLearning
(
PBIL
)
単変量周辺分布アルゴリズム
(
UMDA
)
二変量周辺分布アルゴリズム
(
BMDA
)
ベイジアン最適化アルゴリズム
(
BOA
)
Hopfieldの相互結合型のニューラルネットワーク
群知能
蟻コロニー最適化
粒子群最適化
確率的拡散探索
特殊な最適化問題
動的計画法
グラフ問題
最小全域木
最適分岐
単一始点最短路
全点対間最短路
最大フロー
数理計画問題
（
mathematical programming problem
）
数理計画
メタヒューリスティクス
組合せ最適化
双対問題
最適化問題 - Wikipedia