有効桁数を考慮した加算
結論
有効数字$ m桁の測定値$ aと有効数字$ n桁の測定値$ bの和$ a+bの有効数字は、最小桁の位が最も高いものにあわせる 言葉で短くまとめようとするとややこしくなるな……takker.icon
要は、
高い位は一番高いのを選ぶ
低い位も一番高いのを選ぶ
……やっぱ説明難しいわtakker.icon
まさかここまで言葉で説明しにくいとは思わなかった
数式使うか
結局最小桁の位が最も高いものにあわせるってどういうことなの？
2022-04-19 09:21:56 井戸端でこの話題出したら説明できた
とりあえずコピペしておく
あとで清書しよう
よくわからないけど…10.55+5.3は結局どうするのが正解と言われたんだろう/yosider/yosider.icon
15.9 ?
15.8らしいtakker.icon
最後の桁だけ不確かな数値になるように丸め込む
10.55+5.3は、10.55+5.3Xと考える
Xは0~9のいずれかで、どの値かは全くわからない
10.55+5.3X=15.8Y (Y=5+X)
YはXの値によって10以上になる可能性があるので、15.8の8は9かもしれない不確かな数になる
15までは確定、8が不確かなので、15.85を丸めた15.8が答えになる
5を丸め込み方はひとつ上の桁の偶奇で決める
偶数：切り捨て
奇数：切り上げ
あ、説明できた。
動画聞きながら↑を書いた
もしかしたら動画の音声が頭に入っていなかったのかも 完全に聞き流してた
テキストなら頭に入るのに……
例
https://kakeru.app/2ac40ba63cb997d75d1d6fdc6bf07c94 https://i.kakeru.app/2ac40ba63cb997d75d1d6fdc6bf07c94.svg
https://kakeru.app/318cfe5806bb1e2f2b02999e5b240d03 https://i.kakeru.app/318cfe5806bb1e2f2b02999e5b240d03.svg
こうなるから有効数字はあまり好きじゃないtakker.icon 導出
14:23:08 展開してもわからなかった……
https://kakeru.app/bd2fb2c74be657b0f62bf8524219fb8a https://i.kakeru.app/bd2fb2c74be657b0f62bf8524219fb8a.svg
これ、有効数字の最終桁とそれ以降の桁の取り扱い方がわからなくて混乱している感じがする
Math.round()とか
足し算してから丸めてはいるが、丸めるためには足す前の2変数の情報が必要になる