有効数字の四則演算 … 乗除算

有効数字の乗除算です。

乗除算:演算前のそれぞれの数値のうちで、有効数字の桁数の小さい方に合わせて四捨五入する。

一般的に上記となります。実際に掛け算を計算してみると。

例題1: 43.5 × 0.029

43.5の有効桁数は3桁、0.029は2桁。電卓を叩いて出た1.2615を、演算前の数値の有効数字の桁数の小さい方、つまり2桁に合わせると。

解答1: 1.3

となります。割り算でも同様に。

例題2:0.2325 ÷ 0.15

解答2:1.6

です。

以上です。

コメント

タイトルとURLをコピーしました