2021-03

未分類

有効数字の四則演算 … 乗除算

有効数字の乗除算です。 乗除算:演算前のそれぞれの数値のうちで、有効数字の桁数の小さい方に合わせて四捨五入する。 一般的に上記となります。実際に掛け算を計算してみると。 例題1: 43.5 × 0.029 43.5...
未分類

有効数字の四則演算 … 加減算

つづいて有効数字の演算についてです。(前回はこちら)まずは加減算、 加減算:演算前のそれぞれの数値の最下の有効桁のうち、最も大きい桁の位となるように四捨五入する。 (ここでは、例えば小数第1位と第2位では、小数第1位のほうが小...
未分類

有効数字

近頃、有効数字について触れる機会があったので、書いてみました。 早速ですが有効数字は、測定で読み取った意味のある数字のことです。 1.6cmと1.60cmは、同じか? と問われるとどうだろう? 数学としては同じで...
タイトルとURLをコピーしました