MENU|1.測定|2.有効数字3.加減算4.乗除算5.関数6.丸め方7.効率的
1. 物理量の測定
1.1.
 
物理量とは質量,長さ,体積,圧力など,客観的に測定できる量のことである。一般に数値と単位の積で表される。
 
測定値には必ず誤差が含まれる。それがどの程度であるかは測定器具の精度に支配される。同じ量を測定していても使用する器具によって測定値の精度は違ってくる。
 
なお,ここでは測定対象の変化(蒸発,膨張など),測定者の技術(熟練者,不慣れなど),測定器具の変化(ゆがみ,膨張など)などによる誤差は考慮しない。
 
1.2.
 
メスシリンダを用いて水の体積を測定することを考える。
 
容量 100 mL のメスシリンダがあり,最小目盛りは 1 mL であるものとする。ここに水 9.876 mL を入れる。
 
物理量の測定においては,目盛りの 10 分の 1 まで読むことになっている。このメスシリンダでは 0.1 mL の位まで読まなければならない。
 
測定値は 9.9 mL である。水面は 9 と 10 の目盛りの間にあるのだから,1 の位が 9 であることは間違いない。このことを疑う余地はない。小数第 1 位は 9 と読んだが,これが 2 や 5 でないことは確かだとしても,8 かどうかは測定者によって違うかもしれない。したがって,測定値の最小桁である(この場合の)小数第 1 位の数字には,ある不確かさが含まれる。
 
小数第 2 位の数字には確からしさはまったくなく,小数第 2 位の数字を決めることはできない。
 
この測定値は真値から 0.024 mL 多いかもしれないが,そのことは誰にも分からない。われわれが 9.9 mL という測定値を目にしたとき分かるのは,真値は 9.85~9.95 mL の範囲のどこかにあるということだけである。したがって,測定値はある範囲を代表する呼称と考えるべきである。この場合は 9.85~9.95 mL の中心値である。
 
代数学では数値は数直線上の 1 点を示すので,幅はない。しかし,現実の世界で物理量を測定するときには必ず誤差が含まれていて,示された測定値には幅があることを憶えておかなければならない。
 
1.3.
 
次に容量 10 mL のメスシリンダを使う場合について考える。最小目盛りは 0.1 mL であるものとする。ここに水 9.876 mL を入れる。
 
このメスシリンダでは 0.01 mL の位まで読まなければならない。測定値は 9.88 mL である。
 
このメスシリンダを用いれば,小数第2位の数字を決めることができる。しかし,小数第3位の数字は分からない。この測定値は真値から 0.004 mL 多いかもしれないが,そのことは誰にも分からない。われわれが 9.88 mL という測定値を目にしたとき分かるのは,真値は 9.875~9.885 mL の範囲のどこかにあるということだけである。
 
このように測定値は使用する器具の精度に支配される。このメスシリンダを使うことで誤差の範囲は狭まった。さらに高精度の器具を使用すれば,誤差の範囲はより狭くなり,高い精度で測定することができるだろう。しかし,それでもなお測定値には誤差が含まれる。
 
1.4.
 
図のように,9.9 mL の目盛りちょうどの場合はどうするか。
 
目盛りは 0.1 mL の精度であり,測定は目盛りの 10 分の 1 でしなければならないから,9.90 mL と読む。測定値 9.90 mL は 9.895~9.905 mL の範囲の呼称である。
もしこれを 9.9 mL と読んだとすると,9.85~9.95 mL の呼称となってしまう。小数第 2 位の精度で測定できる器具を用いているのに,測定者のミスで小数第 1 位に精度が落ちてしまったことになる。
 
このように 9.90 mL と 9.9 mL は意味が異なる。9.90 mL を 9.9 mL と書いてはいけない。また,9.9 mL を9.90 mL と書いてもいけない。勝手に精度を変えることは許されない。
 
1.5.
 
1.2. で用いたメスシリンダに 1.876 mL の水を入れた。
 
測定値は 1.9 mL であり,それは 1.85~1.95 mL の範囲の呼称である。範囲の幅 0.10 mL はメスシリンダの目盛りで決まるので,9.876 mL を入れた場合と同じである。
 
では,この範囲が測定値の精度に及ぼす影響は同じであろうか。
 
測定値 9.9 mL と 1.9 mL とで範囲の幅 0.10 mL の影響を比較する。
広がり幅の比較には,変動係数を用いるのが便利である。
変動係数 \(CV\) は次の式で定義される。
 
\( \quad \displaystyle CV = \frac{\sigma}{\mu} \)
 
ここで,\(\sigma\) は標準偏差,\(\mu\) は平均値である。
 
標準偏差の代わりに幅,平均値の代わりに代表値を用いれば
 
\( \quad \displaystyle \frac{0.10 \mathrm{mL}}{9.9 \mathrm{mL}} = 1.0\%\\ \quad \displaystyle \frac{0.10 \mathrm{mL}}{1.9 \mathrm{mL}} = 5.3\% \)
 
となり,後者の方が影響が大きいことが分かる。
このように,同じ測定器具を用いていても,測定値の絶対値によって誤差は異なる。測定値が選べるなら,なるべく大きな値を選択した方が誤差は少なくなる。
 
たとえば,滴定を行うとき,精度はビュレットから滴下する 1 滴の体積に限定される。したがって,滴定値がビュレットの容量に近いほど分析精度は高くなる。
終点近くで半滴入れるなどの工夫も同じ理由で説明される。
 
この教材は簡便な扱いを主目的とするので,誤差の割合については,これ以上考慮しない。
 
進む >>
1. 物理量の測定