MENU｜1.測定｜2.有効数字｜3.加減算｜4.乗除算｜5.関数｜6.丸め方｜7.効率的
4. 乗除算の精度
4.1.
 
一辺が 12.3456 cm，もう一辺が 7.4 cm の長方形の面積を求めよ。
 
解説
 
\(\quad 12.3456 \times 7.4\\ \qquad = (12.34555 \sim 12.34565) \times (7.35 \sim 7.45)\)
 
これを計算すると
 
\(\quad 90.7397925 \sim 91.9750925\\ \qquad = 91.35744 \pm 0.61765\)
 
という結果が得られる。10 の位は信頼できるが，1 の位にはある不確かさがある。そこで，中心値 91.35744 を小数第1位で丸めて 91 cm2とする。
 
12.3456 の全桁数は 6 桁，7.4 の全桁数は 2 桁である。答は最も小さい全桁数である 2 桁に決められる。
 
結論
 
計算の精度は使った数値の精度の悪い方に制限される。乗除算では全桁数が規定される。
 
補足　乗数が整数の乗算
 
\(\quad 98.76 \times 2 = 197.52\)
 
2 が測定値でないなら，有効桁数を維持して 197.5 としたくなる。しかし，
 
\(\quad 98.76 + 98.76 = 197.52\)
 
と書き換えれば，乗数が整数の場合は加算の繰り返しと解釈できて，最小桁を維持できる。
有効桁が増えることがある。
 
4.2.
 
測定値による計算結果の典型的な誤りの例
 
乗除算においても，答を表すのに
 
×\(\quad \fallingdotseq 91\)
 
とすると間違いである。
 
1.0/3.0 の計算をしたときに
 
×\(\quad 0.33 \cdots\)
 
あるいは
 
×\(\quad 0.\dot{3}\)（循環小数）
 
とするのも間違いである。
 
計算結果はすべて小数あるいは整数で表すべきである。ただし，計算途中で分子にも分母にも測定値が含まれないときは分数のままにしておかなければならない。
 
無理数，超越数は記号のままとする
 
×\(\quad \sqrt{2}=1.4\)
×\(\quad \pi = 3.14\)
 
最終結果を求める段階になったら，電卓の関数を利用して計算する。
 
4.3.
 
計算に必要な定数の桁数
 
乗除算において使用する定数は，精度を落とさないように十分な桁数を準備する。ただし，不必要に多いと入力や転記のミスを誘発する。
 
気体定数として \(R = 8.3\ \rm{m^3\cdot Pa/mol \cdot K}\) （2桁）だけを使用すると，測定値の有効桁数が 3 桁以上あったとしても，計算結果は 2 桁になってしまう。
測定値が 3 桁有効なら，定数も最低 3 桁必要。
現実には，後述する理由により 1 桁多く用意する。
 
<< 戻る　乗除算の演習に進む >>
4. 乗除算の精度