今回もExcelの話題になります。今回は3.10-3.08などの浮動小数点の計算結果を正確に表示したいときの方法です。
例えば、3.10・・・ー3.08・・・の答えは0.12ですが、エクセルで減算すると0.11と表示されてしまいます。これは、計算される値が小数
点第二位以降の値まで含んでいるため起きる誤差です。浮動小数点以降の値が多いほど誤差が出やすく、小数点第二位までの値をExcelで正
確に出したい時に非常に邪魔になるのでrounddownで計算結果を演算する関数を囲んで浮動小数点第二位までの値を切り捨ててしまいましょう。
最初から計算される側の値を切り捨てておくことで、誤差が出るのを防ぐことができるのでおすすめです。
ROUNDDOWN(ここにsum関数などを入れる,2)
