有効数字と数値の丸め方

27

を 1 [mm] 目盛のスケール (定規) で測り, 179.3 [mm] と読み取ったとすると, 真の値は, 179.25 [mm] 5L < 179.35 [mm] に存在することになります. それ は,目盛がない1 [mm] 以下を測定する人の目分量で,四捨五入により判断して いるのです. ここでは,ノートの横の長さが目盛のうちで 179.3 [mm]に一番近 いと読み取った · · · ^{ということです}.

一般に,測定値の中には,単に位取りを表わすだけの 0 (ゼロ) が含まれてい ますが,このような0を除き,意味のある数字で最下位の数字だけに誤差を含ん でいる ような数字を 有効数字といいます.

上記の例では,ノートの横の長さは4桁で表されて179.3 [mm]と書きますが, これは有効数字が 4桁です. もし,これを 179.30 [mm]と書くと,有効数字が 5 桁になってしまいます. 従って, 4桁しか読み取れないものを5 桁で表現するの は誤りであり,大きな違いがあります.

また, 1 円硬貨の直径(d) をある測定器で測定した結果が 3 桁で表されてい る場合は有効数字 3 桁といい,さらに高精度の測定器で測定した結果が5 桁で 表わされている場合は有効数字 5 桁といいます.

3.2.2 計器の目盛と読み取り

次に長さを測るもので,学校にもあるいくつかの計器の目盛と読み取りを示し ます.

図3–1測定器具のいろいろ

3.2. 有効数字と数値の丸め方 29

計器 表示例 最小目盛 読み取り

巻尺(30 [m] の巻尺) 23.568 [m] 1 [cm] 1

10 [cm]まで読み取る

定規 176.3 [mm] 1 [mm] 1

10 [mm]まで読み取る

ノギス(1級) 20.25 [mm] 1 [mm] 1

20 [mm]まで読み取る (副尺で読み取る) マイクロメータ(1級) 19.992 [mm] 1

100 [mm] 1

1000 [mm] まで読み取る 注意 (1)伸び縮みがある布製の巻尺では, 1

10 [cm]まで示しても意 味がありません.

(2) 定規は,プラスチック製,金属製などは伸び縮みがあるの

で, 0.1 [mm]まで読んでも意味がありませんが,正の刻印

のある伸び縮みのしない竹製などの材料で作製されている 定規は, 0.1 [mm] まで読まなくてはなりません.

また,質量の場合は,測定器により大きく異なります. 10円硬貨を例に取ると,

• 0.1 [g]まで測れる上皿天秤では · · · 4.5 [g]

• 0.01 [g] まで測れる物理天秤では· · · 4.52 [g]

• 0.0001 [g] まで測れる直示天秤では · · · 4.5230 [g]

有効数字はそれぞれ 2 桁, 3桁, 5桁といいます. この場合, 有効数字が5 桁 である直示天秤の測定結果を4.523 [g] と書くのは誤りです.

有効桁数を数えるときの約束をまとめてみましょう. (1) 小数点の位置には関係しない.

例: 4.5230 [g] , 15.290 [m] · · · 有効数字 5桁

(この 2 例では,数値の最後の「0」も測定によって得られた意味のある値, すなわち有効数字として考えています.)

(2) 冒頭の 0 は有効桁数に入れない.

例: 0.0179 [m] (17.9 [mm] の意味)，2.15 [mV] (0.00215 [V] の意味)

· · · 有効数字 3桁

([mm]単位で読み取った測定値17.9 [mm]を[m]単位に換算したと考えれ

ば, 1位および小数第1位の「0」が有効数字でないことに気づくでしょう.)

(3) 最初の0でない数字より右側の 0 は有効桁数に入れる. 例: 1.01 [g], 101 [m] · · · ^有効数字 3桁

(位取りの 0 は,有効数字に入れません. )

注意 測定値1.01 [g]を[mg]単位に変換するとき, 1010 [mg]と書 くことになります. このままだと,最後の「0」も有効数字と取り扱 われてしまいます. それを防ぐためには, 1.01×10³ [mg] の表現を 用いて,位取りの「0」か有効数字の「0」かをはっきりさせます. 練習 1. 次の測定値の有効数字の桁数は何桁ですか.

(1) 0.6 (2) 8.7 (3) 3.07 (4) 0.028

(5) 2.050 (6) 0.009070 (7) 4.30×10⁻⁶ (8) 7020

3.2.3 数字の丸め方

「数字を丸める」とは, 測定値を基本にして必要な桁数に直すことを言いま す. たとえば, 24.37を3桁の数字に丸めるという場合は,小数第2 位の7 を四 捨五入して 24.4と表します.

さて, 一般に「桁」というのは, 45 は 2 桁, 126 は 3 桁といいます. また,

24.65 の有効数字といいますと,先に示したように小数点を入れて 4 桁です.

有効数字を表す場合, 「桁」で表す以外に小数第 n位まで有効であるという 表現があります.

例 1. 26.86573

この例の場合,小数第 3 位まで有効,というとき, 5 桁が有効数字ということ になります. つまり,この値を 26.866とします.

また,小数第 5 位まで有効, というときは, 7 桁が有効数字ということになり ます.

ある数値を有効数字n桁の数値に丸める場合, (n+1)桁目以下の数値を次の ように整理します.

(1) (n+1)桁目の数値が, n桁目の1単位の 1

2 未満の場合には切り捨てる. 例: 1.444 を有効数字3 桁に丸める· · · 1.44

(2) (n+1)桁目の数値が, n桁目の 1単位の 1

2 ^{以上の場合には} n桁目を 1単位だけ増す.

例: 144.6 を有効数字3 桁に丸める· · · 145