コンピュータ算術の誤差

https://gyazo.com/039391721334370ae57cb1cfa37b93d6

これは浮動小数点数を2進法で計算した際に起こる丸め誤差

コンピュータでは数値を有限ビット数で表現する

最下位ケタより小さい部分は四捨五入や切り上げ・切り捨てで丸められるので、それにより起こる誤差

実際には2進法では四捨五入ではなく0捨1入

浮動小数点数の計算処理を途中で打切ることで生じる誤差

絶対値のめちゃ大きな数と小さな数の加減算をやるとする

指数部が小さいほうの数の仮数部の下位部分が計算結果に反映されなくなる(情報として抜け落ちる)ために生じる誤差

絶対値のほぼ等しい2つの数の差を求めるとする

有効桁数が大きく減ることで生じる誤差