桁落ち【loss of significance】

概要

長い桁の小数や無限小数を数値計算する場合には、ある桁以降の値を四捨五入するなどして有限桁で表す（丸める）ことがあるが、丸めた後の値が非常に近い値同士で減算を行うと差が非常に小さい値となり、計算前の値より有効な桁が大きく減少してしまうことがある。

例えば、√100001-√100000 という計算を有効数字8桁で行うと 0.31622935×10³-0.31622777×10³ = 0.158×10^-2 となってしまい、得られた結果の有効な桁は3桁に減少してしまう。

コンピュータの浮動小数点形式では便宜上、計算の結果失われた下位の桁を0で埋めて 0.15800000×10^-2 のように扱うため、これに大きな数を掛けるなど続けて計算していくことで、途中で生じた桁の欠落が最終的に大きな誤差を生じさせてしまうことがある。