付録:科学的記法
table:表4.2 測定値とその有効桁数
測定値 有効桁数 科学的記法
2.65 3 2.65
26.500 5 2.6500 x 10
0.0026 2 2.6 x 10^(-3)
2650 4 2.650 x 10^3
表の右側が科学的記法(scientific notation)である.これは,
$ x.y\times 10^n ただし,
$ x \lt 10の整数, y は仮数(少数)部, nは整数(正負あり)
というルールで記述される.文に直すと,
「数値の整数位を1桁に揃え,残りを少数にした上で,それに対応する10のべき乗を掛ける」
この記法を使えば,その有効桁数がひと目でわかる.
大きな数字だが有効桁が少ない場合はこの記法でないと明記できない.
例:12300000 で有効桁4(1230が有効数字であとの桁は不正確)の場合
→ このままの表記だと有効桁数が不明
→ $ 1.230\times 10^7 だと有効桁4を明示できる
また,桁数が大きく異る数値を比較する際にもわかりやすく,間違いもしにくくなる.
測定値の表記には,単位の接頭辞(μ,m,kなど)と合わせて,科学的記法を適切に使い,数値を分かりやすく記述することを心がけること.