Rubyで浮動小数点数の加算減算がずれないようにする

問題

Rubyで0.1を足していくと、計算結果がずれるという問題が起きた。例えば、以下のようなコードを書くと、期待しているような計算結果が得られない。

> tmp = 0.0
 => 0.0
> 1..10.times { p tmp += 0.1 }
0.1
0.2
0.30000000000000004
0.4
0.5
0.6
0.7
0.7999999999999999
0.8999999999999999
0.9999999999999999
 => 1..10

経緯

twitterでぼやいたら、リプライで親切に教えていただけた。

@akiroom 2.1で導入されたrationalリテラルで正確に計算できそう

— Tomotaka Ito (@tomotaka_ito) January 10, 2014

https://twitter.com/kalab1998/status/421575612789035008

@akiroom http://t.co/IDuY7zlmqp

— yoshitomi TOKITOMO (@ymrl) January 10, 2014

@akiroom 余計なお世話だと存じ上げますが、小数点以下の計算は２進数で計算すると10進数では循環せずとも、２進数では循環小数になってしまう事があるためそのような結果が出たりします。他の方がおっしゃっているようにrationalリテラルを利用するとよろしいかもしれません。

— まんじゅ（´ん｀）＠放浪者 (@manzyun) January 10, 2014

また、調べると浮動小数点数どうしが同値であるかを比較には「計算機イプシロン」を使って誤差を吸収しなければならないらしい。
詳しくは浮動小数点数の同値比較には計算機イプシロンを使うこと – Tociyuki::Diaryを参照。

結論

IEEE 754の規格上の仕様
Ruby2.1以上ならrationalリテラルを使って、tmp = 0.0rというように書く
Ruby2.1未満ならBigDecimalを使う
浮動小数点数を比較する時は計算機イプシロン Float::EPSILON を利用する

ちなみに、RT先でコンピュータサイエンスの基本を理解していないという指摘もあった。耳の痛い話だった。