有効数字の四則演算 … 加減算

つづいて有効数字の演算についてです。(前回はこちら
まずは加減算、

加減算:演算前のそれぞれの数値の最下の有効桁のうち、最も大きい桁の位となるように四捨五入する。

(ここでは、例えば小数第1位と第2位では、小数第1位のほうが小数第2位より「大きい桁」として表現しています)

例題1: 1.741 + 1.2

この場合、そのまま電卓を叩けば2.941ですが、二つの数字がどちらも測定値で有効数字で表されているとすれば、それぞれの最下の有効桁は、1.741では小数第3位、1.2では小数第1位。このうち最も大きいものは、1.2の小数第1位です。2.941を小数第1位の数となるように(小数第2位を)四捨五入して

解答1: 2.9

となります。測定値1.2では、小数第1位までしか信頼できない(有効ではない)わけですから、加算の結果、小数第2位と小数第3位はなくなってしまう、とうわけです。

次は減算の例題です。

例題2:1.741 – 1.2

そのまま減算すると0.541。例題1と同様に、最下の有効桁はそれぞれ小数第3位と小数第1位で、最も大きいのは小数第1位です。0.541を小数第1位の数となるように(小数第2位を)四捨五入して

解答2: 0.5

となります。例題1同様にもとの測定値の信頼できる(有効な)小数第1位までで表現されました。

では、次の例題はどうでしょう?

例題3:1.743 – 1.741

値が近い数字どうしの減算です。演算前の最下の有効桁はどちらも小数第3位ですから、電卓を叩いて出た結果がそのまま答えになります。つまり

解答3:0.002

この場合、もともと有効桁数が4桁であったものが、1桁に減少しています。このように値が近い数字どうしの減算で、有効数字の桁数が減ることを桁落ちといいます。

もとの測定値の誤差に着目すると、演算の前と後で誤差の含まれる割合が大きく増加したことを意味します。

ここで誤差±0.0005とすれば、誤差の割合は

演算前:0.03%(1.743:0.0005 or 1.741:0.0005)
演算後:25%(0.002:0.0005)

となります。

なお、演算前の測定値が3つ以上ある場合、計算途中では四捨五入しません。
複数回の四捨五入をすると精度が落ちるためです。
ただし、何回も計算を繰り返すうちに桁数が増して複雑になる場合、有効数字より2~3桁多く残し、それ以降の数字を切り捨てます。

以上です。

コメント

タイトルとURLをコピーしました