有効数字の取扱いがあやふやだったので、ここでもう一度確認しようと思いここに記します。
目次
電験3種平成29年理論問14
次の(1)～(5)は、計測の結果、得られた測定値を用いた計算である。
これらのうち、有効数字と単位の取り扱い方がともに正しいものを一つ選べ。
(1) 0.51V＋2.2V＝2.71V
(2) 0.670V÷1.2A＝0.558Ω
(3) 1.4A×3.9ms＝5.5×10－6C
(4) 0.12A－10mA＝0.11m
(5) 0.5×2.4F×0.5V×0.5V＝0.3J
足し算 引き算の有効数字について
足し算引き算の有効数字は一番誤差の大きい数の最後の位に合わせるということです。
例えば
12.34＋320=332.34
となりますが、
12.34と320という２つの数字を比べると 12.34は小数第二位までわかってるのに対し
320は一の位までしかわかっていません。
小数点以下は分かりませんので320の方が誤差が大きいと言えます。
この場合答えは三桁で4桁目を四捨五入します。
12.34+320=332.34=332
となります。
掛け算割り算の有効数字
掛け算割り算は桁の小さい方合わせます。
例えば
5.81×2.3=13.363
となりますが、
5.81は3桁 2.3は2桁なので 答えは2桁となります。
答えの3桁目を四捨五入します。
5.81×2.3=13
が答えとなります。
＝の扱いについて
有効数字より小さい値を四捨五入すると正確には
＝(イコール)とは言えず ≒ と表す所ですが、工業系はそれを承知の上で＝と表記するそうです。
これらを踏まえて問題をみていきます。
(1) 0.51V＋2.2V＝2.71V
単位はv×ｖ＝vで問題ありません
計算は足し算ですね
0.51と2.2を比べると2.2のほうが誤差が大きい(0.51のほうが正確であるので) 小数第1位までで表します。
0.51v+2.2v=2.7ｖ(小数第2位を四捨五入)
となり(１)は間違いです。
(2) 0.670V÷1.2A＝0.558Ω
オームの法則通りなので単位は問題ありません。
計算は割り算です。
0.670は3桁(頭の0は含めない)
1.2は2桁
ですので、答えは2桁(3桁目は四捨五入)となります。
0.670÷1.2=0.56
よって(2)は間違っています。
(3) 1.4A×3.9ms＝5.5×10－6C
計算は掛け算です。
1.4 3.9 共に桁数は2桁なので答えも2桁です
よって答えの5.5は問題ありません。
1秒間に1A流れる電気量が1クーロンという定義なので
単位は一見問題がないようにみえます。
しかし問題がms(1秒の1000分の一)に対して答えは
10－6(1秒の1000000分の一)となっております。
答えは 5.5 × 10－3
となり間違えです。
(4) 0.12A－10mA＝0.11m
単位はA-A=mとなっていて 式自体が成り立っていません
この時点で間違えです。
ちなみに計算は引き算で単位を無視すると
0.12－0.010＝0.110＝0.11となり計算自体は合っています。
(5) 0.5×2.4F×0.5V×0.5V＝0.3J
これはコンデンサーに蓄えられた電気エネルギーの公式
正解は(5)となりました。
有効数字についてあやふやなところがありましたが
こうやってまとめることで記憶の定着につながればいいなと思います。