2008年01月31日

Excel:演算誤差

特定の小数を入力した場合に、おかしな入力になることがあります。
-35765.598とか。
あと、計算結果が合わないぞなんでだー?とか。

これは「IEEE754」という規格に問題があるためで基本的にどうしようもないです・・・。
技術情報
>[XL2003] 小数を使用した計算の誤差について
[XL97]浮動小数点数値演算の結果に含まれる丸め誤差について
[XL97]特定の小数部を持つ数値を入力した場合に誤差を生じる

特に ”[XL97]特定の小数部を持つ数値を入力した場合に誤差を生じる”は起こった途端に!?となること請け合いです。

■回避方法
入力数値がおかしくなってしまうことに対してはどうしようもないので、TEXT関数で取り出したりするなどして数値を利用することになります。

ROUNDなどは正確に利かないことがあるので注意が必要です。
※状況によっては上手く取り出せないです・・・

1)TEXT・ROUND関数で取り出す
2)微小値で調整する
→誤差よりも大きく、数の変化の単位より小さい数で調整

参考URL
エクセル(Excel)「演算誤差」対策講座

15:53│PC周辺種々雑多 | |blogram投票ボタン|日コマ雑記帖

ヒトコト

1. Posted by Den   2008年02月01日 22:25
いつも参考にさせていただいてます<(_ _)>

マニアック的な参照URLを提示させて頂いて、感謝。です。
かなり面白かったですよ(^^♪
2. Posted by 皐月@雑記人   2008年02月02日 10:33
何かネタ転がってるなら良いのですが[汗]

ワタシにはちと高度だったので対応策だけ参考にしたです<URL[・・・]