有効数字の四則演算 … 乗除算未分類 2021.03.27有効数字の乗除算です。乗除算:演算前のそれぞれの数値のうちで、有効数字の桁数の小さい方に合わせて四捨五入する。一般的に上記となります。実際に掛け算を計算してみると。例題1: 43.5 × 0.02943.5の有効桁数は3桁、0.029は2桁。電卓を叩いて出た1.2615を、演算前の数値の有効数字の桁数の小さい方、つまり2桁に合わせると。解答1: 1.3となります。割り算でも同様に。例題2:0.2325 ÷ 0.15解答2:1.6です。以上です。
コメント