[math]::pow([math]::e,3) -eq [math]::exp(3) - PowerShell Scripting Weblog

2007/07/23

これFalseなんですね。見た目はどちらもSysytem.Doubleの20.0855369231877なんですが、

[math]::pow([math]::e,3) - [math]::exp(3)

とすると-3.5527136788005E-15となって誤差が発生してることがわかります。きっと内部的には違ったロジックで計算してるんだろうなぁと思いました。

元記事:http://blogs.wankuma.com/mutaguchi/archive/2007/07/23/86545.aspx

トラックバック

トラックバックはまだありません

トラックバックPing:


コメント

コメントはまだありません


コメントをどうぞ

名前 (省略可) :
E-mail or URL (省略可) :


前の記事へ | 次の記事へ

Copyright © 2005-2016 Daisuke Mutaguchi All rights reserved

mailto: mutaguchi at roy.hi-ho.ne.jp

Awards

Books

Twitter