end0tknr's kipple - web写経開発

太宰府天満宮の狛犬って、妙にカワイイ

2013-09-24から1日間の記事一覧

66.9*100=6690.000000000001 って丸め誤差? いや IEEE 754 の仕様でした

http://blog.asial.co.jp/1191 偶然、↑このエントリを読んで、「66.9*100 の程度の桁数で丸め誤差でるの?」と思いましたが、js 的に浮動小数点型は、javaのBigDecimal 実装の bigdecimal.js を使うのがよさそ。mathcontext.js と bigdecimal.js は、例えば、…