IEEE 754
#Programming
#Math
#仕様
https://gyazo.com/19250bafc786018dbfbdb17b81299f5e
Wikipedia
より拝借
IEEE
による
浮動小数点
演算の標準
仕様
精度
fp64(倍精度)
ビット内訳
符号1bit
指数13bit
仮数52bit
fp32 (単精度)
ビット内訳
符号1bit
指数8bit
仮数23bit
fp16(半精度)
ビット内訳
符号1bit
指数5bit
仮数10bit
ビットの例
32bit
0
:
0x00000000
1
:
0x3F800000
e
:
0x402DF854
PI
:
0x40490FDB