Googleで「399999999999999-399999999999998」を計算すると失敗する件
August 24, 2008 9:11 PM written by Gen Taguchi
Googleの電卓機能は便利でいいですが、「399999999999999-399999999999998」は計算できないようですねぇ・・・。ちょっと話題になっているのでそのうち直されるとは思いますが。

↑ なぜか0に。

↑ ちなみにYahoo!はOKですね。
Googleの電卓機能についてはこちらもどうぞ。
» 知っておくと便利なGoogle電卓の小技いろいろ | IDEA*IDEA
Info: Lifehacks |
固定リンク |
コメント (8) |
トラックバック (1) |
↑
ひとケタ目の数字を入れ替えても
やはり=0になってしまいますね。
さらに桁数を増やしても同じ結果になりました。
89999999999999999-89999999999999998=0
899999999999999999-899999999999999998=0
不思議ですね。
by sasa_chip
| 2008年08月26日 02:54
ちなみに
499999999999999-499999999999998でも
失敗するみたいですね
by
| 2008年08月26日 09:35
0.99999999999999 * 2 = 2
になるようにしたロジック部分が変に働いてるんでしょうね。
by MSLab
| 2008年08月26日 14:04
ビットオーバーフローなのかな?
by a
| 2008年08月26日 15:51
無限大マイナス無限大みたいに考えちゃってるんだろうか。。。
by
| 2008年08月26日 17:46
その桁から浮動小数点計算に変わるからだと思う。
4*10^17-4*10^17=0
こんな感じになるんじゃないのかな。
by
| 2008年08月27日 00:54
普通にオーバーフローしてるだけでは?
by
| 2008年08月27日 04:01
浮動小数点計算に変わってるに一票。
バグじゃなくて仕様だろうから、修正は入らないと思う。
by
| 2008年08月28日 03:39
コメント投稿 (コメントは承認後に公開されます)