丸め誤差で散々悩む

Rhinoを使ってスクリプティングをちょっと試してたところ、妙な計算結果に遭遇。

(100.5-30.4)*15.2=1065.5199999999998

掛け算しかしていないんですけど…。
全く原因がわかららず、

　　windowsの電卓　誤差無し
　　Ruby(1.8.5)　　　誤差無し
　　ActivePerl　　　　誤差無し

で試してみる。でも正しく計算されてしまいました。
これってRhinoのバグかしら。Bugzillaの使い方覚えなくちゃかしら。
とか考えるほど混乱。
頭を冷やすため、それからしばらくこの件は放置していました。

先日Firefox3のβをいじっていたところ、不意にこの件を思い出し、
javascriptの処理系が違ったら…ということで調べてみることに。
Firefox3とIE7で同じ計算をさせたところ、同じ誤差が発生し
バグでないことが判明しました。

これ何なのさ…と調べ、"2進数表現による丸め誤差" という結論に
たどり着きました。

長かった…。

ついでに手元にある他の処理系で試してみた。

【誤差有り】
　　java(6)
　　jruby(1.1 java6)　(javaの影響)
　　Firefox(3 bate5)
　　IE(7)
【誤差無し】
　　C#(C#3.0)
　　C++(VC++9.0)

C++で丸め誤差が発生しないのはびっくり。古めの言語だから逆に仕様として
Javaのように丸め誤差が残っているものと思っていたのに。
Microsoftが気を利かせたのか、ISOの標準C++とかだとOKなのか。
面倒臭がって調べていない。
JavaはBigDecimalとかのクラスによって解決法を提供しているため、
言語仕様では(わざと？)誤差が残っているみたい。
　
　

コメント

コメントを投稿

このブログの人気の投稿

日食ツアーその後

実は３月頃kntの日食ツアーキャンセルしていた。 私の金銭感覚では値段が高すぎる。 先日、本屋で日食の本を手に取ったら結構日食って頻繁に起こっていることが判明。 なんだぁ。 代わりに普通の国内旅行に申し込んだ。自分で計画して行く旅行はほとんど無いので ツアーとかで十分。 きっとおばさんばかりに違いないけどまあいいいや。 次回は海外旅行とか挑戦してみようかな。 　 　
続きを読む

NashornがOpenJDKのリポジトリに入ってたのでビルドしてみた

最近、新聞で取り上げられるなど話題(汗)のJava界隈の話。 何気なく、nashornの近況をググってみたら、 nashornがすでにOpenJDKに入れられてた。 ををっ！ 自分の想像していた(根拠なし)より、ずっと早くOpenJDK入りしてた。 Nashornの2012/12/21のblogにはリポジトリのURLが載ってる。 参照：https://blogs.oracle.com/nashorn/entry/open_for_business nashornのリポジトリのログ見る限り、b65とか書いてあったので、 自分が先日確認した時点(b72)のbinary配布のjdk8に含まれているかと思って インストールしてみた。 サンプルコード： "use strict"; (function() { 　// バージョン取得 　var engineName = "nashorn"; 　var key = javax.script.ScriptEngine.ENGINE_VERSION; 　var m = new javax.script.ScriptEngineManager(); 　var engine = m.getEngineByName(engineName); 　var version1 = engine.getFactory().getParameter(key); 　var version2 = engine.getFactory().getLanguageVersion(); 　print("[DEBUG]\r\n" 　　　+ " engine version = [" + version1 + "]\r\n" 　　　+ " language version = [" + version2 + "]\r\n"); 　var names = engine.getFactory().getNames(); 　var temp = []; 　for (var i = 0; i < names.size(); i++) { 　　temp.push(names.get(i)); 　...
続きを読む

Javaのクロージャをいじってみた。(1)

イメージ
BGGAのクロージャサイト(http://javac.info/) の プロトタイプ実装をいじってみた。 マイコミジャーナルに概要を書いた記事があるようです。 今回いじってみたのは2008-07-07版と2008-07-13版のプロトタイプ実装。 JSRもドキュメントもちゃんと読まずにいじっているけど まあいいや。 １．単純実装の逆コンパイルして中身見る ・クロージャを用いたjavaコード public class SimpleClosure { 　　public static void main(String[] args) { 　　　　int sum = { int x, int y => x + y }.invoke(3, 4); // return 7 　　　　System.out.println(sum); 　　} } ・下のコードは上記コードをコンパイルし、jadで逆コンパイルしたコード import java.io.PrintStream; import javax.lang.function.III; public class SimpleClosure { 　　public SimpleClosure() {} 　　public static void main(String args[]) { 　　　　static class _cls1 implements III { 　　　　　　public final int _2B_invoke(int j, int k) { 　　　　　　　　return j + k; 　　　　　　} 　　　　　　 　　　　　　public final int invoke(int j, int k) { 　　　　　　　　return _2B_invoke(j, k); 　　　　　　} 　　　　} 　　　　int i = _2B_INSTANCE0.invoke(3, 4); 　　　　System.out.println(i); 　　} 　　// ↓クロージャの実体(staticのメンバとして記述される) 　　public static final _cls1 _2B_INSTANCE0 = new _cls1(); } 逆コンパイルで気づいた点 　・クロージャの場合実際はstaticメンバとして宣言されるため...
続きを読む