第 3 章 有効数字 27
3.3 測定値を用いた計算
3.3.3 加減算と乗除算の混合の場合
計算の順序
(1) 乗除算を行う. (2) 有効数字を整える. (3) 加算する.
(4) 末位の粗い方の位取りに合わせて表示する.
例題 7. 縦,横それぞれ0.50 [m] , 2.08 [m]の長方形の面積と半径1.05 [m]の円 の面積の合計を求めなさい. ただし π= 3.141592· · · とします.
解答
(1) 乗除算を行う
0.50×2.08 + (1.05)2×3.142 = 1.04 + 3.464055 (半径の有効数字が3 桁だから, π の値は 4桁で行う)
3.3. 測定値を用いた計算 35 (2) 有効数字を整える (乗除算のルール)
−→ 1.0 + 3.46 (それぞれ 2 桁, 3 桁に合わせる) (3) 加算する
= 4.46
(4) 精度の悪い方の位に合わせて表示する(加減算のルール)
−→ 4.5
∴ 合計面積4.5 [m2]
練習 4. (1) 縦,横それぞれ 1.011 [m] , 2.02 [m] の長方形の面積と半径 0.50 [m]の円の面積の合計を求めなさい. ただしπ = 3.141592· · · とします. (2) 縦,横それぞれ20.0 [cm] , 11.11 [cm] の紙1 枚と 56 [cm2] の紙10 枚の
面積の合計を求めなさい.
(3) 縦,横それぞれ 10.20 [cm] , 11.010 [cm]の紙の面積と半径 10.00 [cm]の 円形の紙の面積の合計を求めなさい. ただし π= 3.1415926 です.
専門科目へのステップ・アップ
ここでは工業で使用される有効数字について,一般的な話をします.
まず計器の種類には,アナログメータとデジタルメータがあります. (針を持 つ計器がアナログメータで,数字を示す計器がデジタルメータです. ) アナロ グメータの有効数字は3桁読み取り,計算結果も3桁で示します. それに対し てデジタルメータの有効数字は,それぞれの計器により異なります. 多いもの では8〜10桁もあります. 桁数が多いほど精度はよくなります.
「機械系」
機械系では,一般の計測においてノギスやマイクロメータが使われることが 多く,使用される有効数字のレベルも本文中に紹介された通りです.
私たちの身近にあるコンパクトディスク(CD)の裏面を見ると,あなたの顔 が映るほどの鏡面状態になっていますね. このような鏡面状態でも小さなで こぼこがあるのです. CD では, このでこぼこが最大で 0.1 [µm] , すなわち
1
10000 [mm] あるのです.
最近の加工技術はさらに進んでいて,このでこぼこを0.04 [µm] にまででき るほどになっています. ということは,このような製品を加工する機械の精度 もそれ以上に要求されている,ということになります.
現在の工業生産では,非常に精度の高い良品を安価に生産することが要求さ れています. 従来は勘によるところも多かったのですが,測定の自動化への進 歩は顕著であり, 生産過程における工程を円滑に行うために,「計測」という ことが特に重要視されています.
「電気・電子系」
電気・電子系では,電圧,電流を測定することが多く,各電圧計,電流計には 精度を表す5段階の等級があります. 特別精密級の0.2級,精密級の0.5級,準 精密級の 1.0 級, 普通級の1.5 級,さらに準普通級の 2.5級に区分されていま す. (なお,「精密級」とは,正確さを表す等級の名前です. )
これらの各計器の正確さ, すなわち許容誤差は,たとえば 0.5級の計器であ れば,定格値(フルスケール値) の±0.5 %以下(今,定格値10 [mA] の電流計 の場合には,誤差は ±50 [µA]以下となります) で,およそ3桁で測定します.
「化学系」
化学系では,質量を測定する場合が多いのですが,直示天秤 ( 物理実験室や 化学実験室にある精密な天秤 ) で測定した場合には,小数点以下4桁まで計れ ます. たとえば, 1円硬貨は, 1.0110 [g] と計れます. また,容量測定でビュウ レットの場合には,小数点以下2桁まで計れます. たとえば, 20.15 [mL]と計 ります.
「建築系」
建築系では, [mm]が一般に用いられている製作上の精度です. ただし,これ は設計図作成上の話で,実際に建設する現場では [cm] が製作精度の限界であ ると思われます. これ以上の精度を建築構造物に要求することは不経済ですし, 現実的ではありません.
3.3. 測定値を用いた計算 37
問題
問題 1. 次の値はすべて有効数字です. 計算してください. (1) 127−9.7
(2) 145.6 + 2.0×10 (3) 22.4×765.3 (4) 14
273
(5) 121.5×10.0 + 21.0×100
問題 2. 蒸気機関車 D51の動輪の直径は 1.400 [m]です. 滑らずに一回転する と何 m進みますか. ただし,π = 3.141592· · · です.
問題 3. 6.00 [Ω] の固定抵抗(R) に,流れる電流 (I) が, 10.1 [mA]でした. こ の抵抗の両端電圧 (V) と消費電力 (P) を有効数字を考えて答えなさい. ただ し,オームの法則よりV =R I ,電力はP =R I2 とします.
解説 電力 P の単位は[W] (ワット)で示されます. 電気アイロン
が600 [W], 電気コタツが 400 [W] という表示はこのことです.
問題 4. 電流 1 [A] とは, 導体の断面を 1 秒間に流れる電気量 (電荷) (Q) が,
ちょうど 1 [C] (クーロンと読む) の場合にあたります. このとき電流が電子の
流れだけであったとして, 電子が 1 秒間に断面を通過する数 N はいくらです か. ただし, 電子1 個が持つ電気量を1 1.6×10−19 [C] , 2 1.602×10−19 [C]
とし,両方で計算しなさい.
解説 Q=I t で示されます. つまり,Q [C] =I [A] ×t[ s ] ([ s ] : 秒) で示されます. また,Q=N ×e(電気量 =電子数 ×電子1個 の電気量) です.
問題 5. 水銀の密度は 20 [◦C] で 13.5462 [g/cm3] です. この温度での水銀 1.000 [L] の質量を求めなさい. ただし, 1 [L] = 1000 [cm3]です.
問題 6. 木の根元から 10.0 [m] の所で, トランシットを使って木の頂上を測 定したところ, 仰角が 29.00◦ であった. 木の高さはいくらですか. ただし, tan 29.00◦ = 0.5543とし,また,トランシットの高さは地面から 1.500 [m] とし ます.
解説 トランシットは,建築や土木で測量に使用する測定器で,角 度を測るものです. たとえば,水平において右の建物と左の建物の角 度を測ったり,木の高さを測るときの上向の角度(仰角 [ぎょうかく] といいます),または崖の上から下の向きの角度(俯角[ふかく]とい います)を測るものです.
39