計算誤差
数値計算
で生じる
誤差
丸め誤差
打ち切り誤差
浮動小数点数
桁落ち
: cancelling
code:jl
ε = (sqrt(2) + eps())
1 / (ε + sqrt(2)) # 0.3535533905932737
(ε - sqrt(2)) / (ε^2 - 2) # 0.25
http://ri2t.kyushu-u.ac.jp/~watanabe/RESERCH/MANUSCRIPT/KOHO/FLOATING/float.pdf
離散化による誤差
解の公式をそのまま数値計算に適用することで起こる破綻