浮動小数点数
floating-point number
code:jl
1.0e-17 # 1.0 * 10 ^ (-10) Float64
1.0f0 # 1.0 * 10 ^ (0) Float32
(-1)^S × F × 2^E
Float32型のビット構成
符号ビット: 1
sign
仮数ビット: 23
significand
指数ビット: 8
exponent
0から255までの表現ができる
が、絶対値の小さいものも表現するために半分ずつ割り当てる
-127のバイアスをつける
code:jl
x = Float32(1.5)
bits = bitstring(x)
マシンイプシロン
FLOPS: Floating-point Operations Per Second
1秒あたりに可能な浮動小数点演算の回数
x / y * y == x となる確率について - えびちゃんの日記