誤差 - pogi-log

誤差

誤差(ごさ、error)

誤差は理論値(真の値、真値)と測定値のズレを表す

切り上げ(ceil)

切り下げ(floor)

四捨五入(round)

丸め誤差(round-off error)

丸めを行った結果、丸める前の値(真値)と丸めた後の値の差を丸め誤差

266.6666...を小数第2位を四捨五入した場合は266.7

266.6666...は真値

266.7は丸め誤差

0.12333333...のような値を途中で打ち切ったことで現れる誤差

絶対値の非常に大きな数値と小さな数値の加算や減算を行ったとき、小さい数値が計算結果に反映されないことによって発生する誤差

かなり近い値の差を求めた際に有効数字が減ることによる誤差

計算結果がその値の範囲を超えること

32ビット整数の最大値は$ 2^{32} = 4,294,967,296

最大値($ 4,294,967,296 )を超える計算をしたらオーバーフローしたということ

適切な型を使えばオーバーフローは起こらない？