浮動小数点数
コンピュータにおいて、実数の部分集合を固定長の有効桁数をもつ整数の仮数(significand)と、それをスケールする決まった底の整数の指数(exponent)で表現する形式。
たとえば、底が10で、5桁の有効桁数を持つ浮動小数の$ 12.345の表記は以下のようになる。
$ 12.345=12345 \times 10^{-3}
ここで、$ 12345の部分は仮数、$ 10^{-3}の部分は指数。
表現しようとする絶対値が大きくなればなるほど、表現可能な2つの連続した値の差は開き、精度が悪化する。(仮数部のビット数が固定されていて、値が大きくなるにつれて表現できる最小の増分(2つの連続した数の差)が相対的に大きくなるため。)
https://upload.wikimedia.org/wikipedia/commons/thumb/9/98/A_number_line_representing_single-precision_floating_point%27s_numbers_and_numbers_that_it_cannot_display.png/1024px-A_number_line_representing_single-precision_floating_point%27s_numbers_and_numbers_that_it_cannot_display.png
https://upload.wikimedia.org/wikipedia/commons/thumb/b/b6/FloatingPointPrecisionAugmented.png/1024px-FloatingPointPrecisionAugmented.png
デジタル信号処理で-1.0から1.0の範囲に正規化することが多いのも、それが理由?
符号部(省略)
丸め誤差、打ち切り誤差、情報落ち、桁落ちなどの欠点が存在する。
https://floating-point-gui.de/