計算途中で必要な有効桁数は、最終的に求めたい有効桁数+1
その段階での有効桁数+1まで丸める
それ以降は切り捨てて計算しても、結果に影響を与えない
四則計算ならそうだろうtakker.icon
$ \cosなどの超越関数だとどうなんだろう
あと$ \frac1{a-b}みたいな非常に精度が落ちる計算の場合は?
原理が全然わからない
⬜@2022-08 有効数字の計算理論を探すしかないか
一般的に示したいなtakker.icon
まあそれやっても結論は変わらないだろうけど
誤差項と確からしい項とで分けて計算してみたがよくわからなくなった
https://kakeru.app/00cbd13f3d67e160a29f308475d57bba https://i.kakeru.app/00cbd13f3d67e160a29f308475d57bba.svg
やっぱ小数展開するしかないか。
#2021-04-19 19:27:34