2012年5月30日水曜日

有効数字について考える

調べたら有効数字について初めて習ったのは中1の数学でした。今は取り扱いが変わっているかもしれません。

有効数字は、測定値などを基に数値計算をするときに意味のある桁数を考えるというものです。2つの数値の加減や乗除についてのルールは中1の数学の教科書にも載っています。

ところで abc + def + ghk といった計算を手計算する場合を考えます。このとき、a×b=αを求め、それにcを掛けた値βを求め、同様に def=γ, ghk=δ を求めてから、それらの和を求めるといった場合が考えられます。それではαやβ、γ、δが切りの悪い数値になる場合どこまでの桁を計算すればよいのでしょうか。