IEEE 754
#プログラミング #数学 #仕様
https://gyazo.com/19250bafc786018dbfbdb17b81299f5e
Wikipediaより拝借
IEEEによる浮動小数点演算の標準仕様
Float Toyでさわってあそぼう
精度
ビット数によって精度が異なる
fp64（倍精度）
ビット内訳
符号1bit
指数13bit
仮数52bit
fp32 （単精度）
ビット内訳
符号1bit
指数8bit
仮数23bit
fp16（半精度）
ビット内訳
符号1bit
指数5bit
仮数10bit
ビットの例
32bit
0: 0x00000000
1: 0x3F800000
e: 0x402DF854
PI: 0x40490FDB