有効数字の簡便な扱い
数値を定量的に扱うには,常に有効数字を意識しなければならない。しかし,誤差論に基づいた扱いを毎回行うのは煩雑である。そこで,簡便に扱うためのいくつかの約束事だけを利用することにする。厳密には正確ではない部分があるが,一般的な利用にはこれで十分であろう。
 
1. 物理量の測定
 
2. 有効数字
 
3. 加減算の精度
 
4. 乗除算の精度
 
5. 関数の計算の精度
 
6. 数値の丸め方
 
7. 効率的な計算方法
有効数字の簡便な扱い