損失関数とコスト関数の違い

損失関数

特定の訓練データやテストデータにおける一つ一つの予測誤差を指す。

個々のデータポイントに対するモデルの予測と実際の値との誤差を計測する関数

モデルが一つのデータ点でどれだけ誤っているかを評価

例えば、二乗誤差損失や交差エントロピー損失

コスト関数（Cost Function）

訓練データセット全体にわたる損失関数の合計または平均

モデルの全体的なパフォーマンスを評価する

コスト関数は損失関数の集計であり、モデルのパラメータを調整する際の目標値

例えば、平均二乗誤差（MSE）は

個々の二乗誤差損失の平均を取ったものです。