有効桁数を考慮した乗算
結論
有効数字
$ m
桁の測定値
$ a
と有効数字
$ n
桁の測定値
$ b
の積
$ ab
の有効数字は
$ \min(m,n)
である
有効桁数を考慮した加算
とは有効数字の決定ルールが違う
この違いが、計算機を使った計算でとんでもない丸め誤差を生じさせる原因となる
導出
有効数字の計算規則
#2021-07-19
08:46:27
#2021-04-19
19:17:30