MENU1.測定2.有効数字3.加減算4.乗除算5.関数|6.丸め方|7.効率的
6. 数値の丸め方(JIS Z 8401)
6.1.
 
数値を小数第 \(n\) 位に丸めようとするとき,一般には小数第 \((n + 1)\) 位の数字によって四捨五入する。しかし単純に四捨五入をすると数値を大きく見積もる結果になることがある。切り捨てと切り上げの頻度を均等にするために,小数第 \((n + 1)\) 位以下の数値を見て判断する方法がJISで定められている。
 
条件 1
 
小数第 \((n + 1)\) 位の数字が 5 以外のときは,通常の四捨五入をする。
 
条件 2
 
小数第 \((n + 1)\) 位の数字が 5 のとき,小数第 \((n + 2)\) 位以下の数値が明らかに 0 でなければ通常の四捨五入により切り上げる。
 
条件 3
 
小数第 \((n + 1)\) 位の数字が 5 で,小数第 \((n + 2)\) 位以下の数値が不明なとき,あるいは 0 であるときは,次の判断による。
 
 小数第 \(n\) 位が偶数のとき,切り捨てる。
 小数第 \(n\) 位が奇数のとき,切り上げる。
 
解説
 
例として測定値 23.45 を小数第 2 位で丸める場合について考えてみよう。小数第 2 位が 5 であり,小数第 3 位以下が不明なので条件 3 に該当する。したがって 23.4 としなければならない。
 
単純に四捨五入をして 23.5 とするとどのような問題があるのだろうか。
 
23.45 は数直線上の 1 点ではなく,範囲 23.445~23.455 の呼称である。これを 23.445~23.450 と 23.450~23.455 に分けて考える。
 
後者は小数第 2 位以下が5よりも大きいので四捨五入で切り上げてよい。一方,前者の小数第 2 位以下は 5 よりも小さいのであるから本来切り捨てなければならない。これをどちらも切り上げると数値を大きく見積もる可能性が大きくなってしまう。
 
しかし,現実には測定値 23.45 を見ただけではどちらに該当するのかが分からない。そこで丸めようとする桁のひとつ上,この場合小数第 1 位を利用することにする。偶数なので切り捨てることになり,最終結果は 23.4 となる。
 
注意
 
丸めの操作は 1 段階だけ行うこと。同じ数値に対して 2 段階以上行うと精度が落ちてしまうことがある。
 
(例)5.346 を有効数字2桁に丸めると 5.3。これを 2 段階で丸めると
(第 1 段階)5.35→(第 2 段階)5.4
精度が落ちることになる。
 
提案
 
条件 3 の扱いは,計算を何度も行うときに切り上げと切り捨てを同じ確率で実施するための対策である。計算ステップが少ないときは,必ずしも正しくない結果を招くので注意が必要である。
たとえば,温度 0℃をケルビンに換算するとき,小数第 1 位までとするなら 273.2 K となる。その操作を繰り返すほど,結果に正の誤差を累積することになる。
この場合は小数第 1 位までが必要なのだとしても,小数第 2 位までの 273.15 K を使用すればよい。
 
<< 戻る 丸め方の演習に進む >>
6. 数値の丸め方(JIS Z 8401)