有効桁数
測定結果などを表す数字のうちで、位取りを示すだけのゼロを除いた意味のある数字である
例
0.093827は有効数字5桁
93827の部分のみの桁数を数えている
0.0008 は有効数字1桁
0.012 は有効数字2桁
0でない数字に挟まれた0は有効
60.8 は有効数字3桁
39008 は有効数字5桁
0以外の数字より右にある0は有効
35.00 は有効数字4桁
8 000.000000 は有効数字10桁
小数点がない数の最後にある0については、有効であるとも有効でないとも受け取れ、曖昧である。例えば、1 000 の有効数字は1桁から4桁のどれとでも受け取れる。このように、整数(小数点がない数)の下位に続いている0を有効数字と見るかどうかは、その文脈によってまちまちである。
有効数字が何桁であるかを明示するためには、指数表記を用いることもできる $ 1 × 10^3 や 1e3 は、有効数字が1桁であることを明示している
$ 1.000 × 10^3 は、有効数字が4桁であることを明示している
1桁の場合は小数点第6位の数値まで信頼できる
例:1.042738とか
2桁の場合は小数点第5位の数値まで信頼できる
例:10.40424
6桁の場合は小数点第1位の数値までしか信頼できない
例:100,000.4
7桁の場合は1の位の数値までしか信頼できない
例:1,000,003
table:floating point number precision
値 桁 精度(値の分割数みたいに考えれば良い)
10 2 1/1,048,576th
100 3 1/131,072th
1,000 4 1/16,384th
10,000 5 1/1,024th
100,000 6 1/128th
1,000,000 7 1/16th
Blenderのマニュアルによると桁が1つ上がるたびにその値の精度は1/8になるらしい