Googleで「399999999999999-399999999999998」を計算すると失敗する件
- August 24th, 2008
- Posted in ライフハック
- Write comment
Googleの電卓機能は便利でいいですが、「399999999999999-399999999999998」は計算できないようですねぇ・・・。ちょっと話題になっているのでそのうち直されるとは思いますが。
↑ なぜか0に。
↑ ちなみにYahoo!はOKですね。
Googleの電卓機能についてはこちらもどうぞ。
» 知っておくと便利なGoogle電卓の小技いろいろ | IDEA*IDEA
Googleã§ã399999999999999-399999999999998ããè¨ç®ããã¨å¤±æãã件
Googleã§ã399999999999999-399999999999998ããè¨ç®ããã¨å¤±æã…
ひとケタ目の数字を入れ替えても
やはり＝0になってしまいますね。
さらに桁数を増やしても同じ結果になりました。
89999999999999999-89999999999999998=0
899999999999999999-899999999999999998=0
不思議ですね。
ちなみに
499999999999999-499999999999998でも
失敗するみたいですね
0.99999999999999 * 2 = 2
になるようにしたロジック部分が変に働いてるんでしょうね。
ビットオーバーフローなのかな？
無限大マイナス無限大みたいに考えちゃってるんだろうか。。。
その桁から浮動小数点計算に変わるからだと思う。
4*10^17-4*10^17＝0
こんな感じになるんじゃないのかな。
普通にオーバーフローしてるだけでは？
浮動小数点計算に変わってるに一票。
バグじゃなくて仕様だろうから、修正は入らないと思う。