浜松のWEBシステム開発・スマートフォンアプリ開発・RTK-GNSS関連の開発はお任せください
株式会社シーポイントラボ
TEL:053-543-9889
営業時間:9:00~18:00(月〜金)
住所:静岡県浜松市中区富塚町1933-1 佐鳴湖パークタウンサウス2F

【Excel】浮動小数点の計算結果のズレを解消する方法

今回もExcelの話題になります。今回は3.10-3.08などの浮動小数点の計算結果を正確に表示したいときの方法です。

例えば、3.10・・・ー3.08・・・の答えは0.12ですが、エクセルで減算すると0.11と表示されてしまいます。これは、計算される値が小数

点第二位以降の値まで含んでいるため起きる誤差です。浮動小数点以降の値が多いほど誤差が出やすく、小数点第二位までの値をExcelで正

確に出したい時に非常に邪魔になるのでrounddownで計算結果を演算する関数を囲んで浮動小数点第二位までの値を切り捨ててしまいましょう。

 

最初から計算される側の値を切り捨てておくことで、誤差が出るのを防ぐことができるのでおすすめです。


ROUNDDOWN(ここにsum関数などを入れる,2)

 

  • この記事いいね! (0)