MENU1.測定|2.有効数字|3.加減算4.乗除算5.関数6.丸め方7.効率的
2. 有効数字
2.1.
 
有効数字とは数値の精度に関する表現のことで,最小桁で示す場合と,全桁数で示す場合がある。
 
最小桁で示す場合は「小数第○位まで有効」と表現する。数値が整数の場合は「1 の位まで有効」と表現する。9.876 mL は小数第 3 位まで有効である。最小桁は測定器具の性能によって決まる。
 
全桁数で示す場合は「有効数字○桁」あるいは「○桁が有効」と表現する。9.87 mL は有効数字 3 桁である。全桁数は測定器具の性能と試料の物理量によって決まる。
 
さて,0.005 g と 79.1 gとでは,どちらの精度が高いと言えるだろうか?
 
0.005 g は小数第 3 位まで有効であり,1 桁が有効である。一方,79.1 g は小数第 1 位まで有効であり,3 桁が有効である。したがって,最小桁も全桁数も違っているので,どちらが精度が高いかを直ちに判定することはできない。
 
有効数字を話題にするときには,最小桁と全桁数のどちらに着目しているかを明確にする必要がある。
 
有効数字を扱う際の注意事項を以下に挙げる。
 
2.2.
 
末尾の 0
 
12.3 g と 12.3000 g の精度は同じであるか?
 
12.3 g は 12.25~12.35 g の呼称であり,0.1 g の幅がある。一方,12.3000 g は 12.29995~12.30005 g の呼称であり,0.0001 g の幅がある。これらの精度は違う。
 
このように末尾の 0 は有効な数字の一部である。勝手に消したり,加えたりしてはいけない
 
2.3.
 
先頭の 0
 
0.001234 kg を単位換算すると 1.234 g となる。これらの精度は同じであるか?
 
0.001234 kg は 0.0012335~0.0012345 kg の呼称であり,0.000001 kg の幅がある。この幅は
\begin{align}\quad 0.000001\ \mathrm{kg} &= 0.000001 \times 1000\ \mathrm{g}\\ &= 0.001\ \mathrm{g} \end{align}
に等しい。
 
一方,1.234 g は 1.2335~1.2345 g の呼称であり,0.001 g の幅がある。
したがって,両者の精度は同じである。
 
このように先頭の 0 は有効数字には関係しない。位取りを示すためのものにすぎない。
 
2.4.
 
単位換算
 
12.34567 g を mg に換算する。
\begin{align}\quad 12.34567\ \mathrm{g} &= 12345.67\times10^{-3}\ \mathrm{g}\\ &= 12345.67\ \mathrm{mg} \end{align}
これは正しいか?
 
12.34567 g は 12.345665~12.345675 g の呼称であり,0.00001 g の幅がある。
\begin{align}\quad 0.00001\ \mathrm{g} &= 0.01\times10^{-3}\ \mathrm{g}\\ &= 0.01\ \mathrm{mg} \end{align}
 
一方,12345.67 mg は 12345.665~12345.675 mg の呼称であり,0.01 mg の幅がある。すなわち,これらの精度は同じであり,
 
\(\quad 12.34567\ \mathrm{g} = 12345.67\ \mathrm{mg}\)
 
は成立する。
 
12 g を mg に換算する。
\begin{align}\quad 12\ \mathrm{g} &=12000\times10^{-3}\ \mathrm{g}\\ &= 12000\ \mathrm{mg} \end{align}
これは正しいか?
 
12 g は 11.5~12.5 g の呼称であり,1 g の幅がある。
 
一方,12000 mg は 11999.5~12000.5 mg の呼称であり,1 mg の幅がある。これらの精度は違っているから,この単位換算は間違っていたことになる。末尾の 0 には意味があるのに,勝手に付け加えたためにおかしくなった例である。
 
この場合は
 
\(\quad 12\ \mathrm{g} = 1.2\times10^{4}\ \mathrm{mg}\)
 
と表示しなければならない。
 
指数を使う表現は全桁数を明示するので,よく利用される。
 
\(N \times10^m\) (N :仮数,m :指数)
 
一見して数値の桁がわかるように,仮数は \(1 \leqq N \lt 10\) となるように位取りすることが望ましい。
 
\(0.2345\times10^{-3}\) ではなく,\(2.345\times10^{-4}\) とする。
 
\(10.59\times10^{4}\) ではなく,\(1.059\times10^{5}\) とする。
 
ただし,特別な理由があるときはこの限りではない。たとえば,最小桁を明示したいとき,桁を統一して数値の大小を比較したいときなど。
 
指数の値が −1,0,1,2 などのときは,指数表示しないことが多い。ただし,上記の例のように指数表示しないと有効数字が変わってしまう場合,および特別な理由があるときはこの限りではない。
 
2.5.
 
単位の明示
 
次元がある数値は単位を省略してはいけない。
 
物理量は数値と単位の積として示される。無次元の場合のみ,単位は省略できる。
 
2.6.
 
測定値かどうか
 
その値が測定値かどうかを常に考慮する。あるいはそれが計算結果だとすると,測定値を基にしていたかどうかを考慮する。
 
何もないときの 0(ゼロ),すべてを表す 1(= 100%),2等分するときの 2,一つ二つと数える計数値,任意に設定した数値,などは測定値ではなく誤差を含まないので,有効数字に関係しない。詳細は次節以降で解説する。
 
<< 戻る 進む >>
2. 有効数字