線形回帰

コスト関数(cost function)

あるいは目的関数

仮定関数(hypothesis)の返り値のと実際の値の誤差の平均

平均は算術平均ではなく、二乗誤差関数を使う

コスト関数を最小にする入力を探す

最急降下法(gradient descent)

コスト関数の最小値を探索するアルゴリズム

関数や入力値によっては局所解にフィットしてしまうこともある

線形回帰は局所解が存在しない