丸め誤差
丸め誤差とは、数値を表現する際に、その値を丸めることによって生じる誤差
#WIP
コンピュータが扱えるビット数を超えた部分を切り捨てた際に生じる誤差
例えば、8bitで
0.110011001100...
という無限小数を表そうとすると、
0.110011
までしか表せない、そのため誤差が生じる
bitとかあってるかコレ
#??
誤差が影響する例
IEEE754の小数計算の誤差
画像加工の繰り返しによって画像が劣化する
ref