-
- いいね！9
Yuichi Sakuraba
@skrb
@syobochim @yusuke そこで同じになるのは、同じような価格帯のものを扱っているからであって、価格帯がぜんぜん違うものだとBigDecimalとは同じにならないです。
2014-10-29 21:12:21
山本ユースケ
@yusuke
@skrb @syobochim あーあー、ほんとだ。1.08は二進数だと近似値ですね(汗)数十万数百万なら大丈夫だけどかなり高額だと誤差出てきますね
2014-10-29 21:34:48
宮川 拓
@miyakawa_taku
@yusuke @skrb @syobochim 0.08, 1.08, 0.10, 1.10 あたりは二進の浮動小数点数で正確に表せないので、100京円くらいの商品を扱うと、1円の桁に誤差が出てしまいそうです。
2014-10-29 21:34:15
山本ユースケ
@yusuke
@miyakawa_taku @skrb @syobochim ですね pic.twitter.com/B8kGDKFqJ7
2014-10-29 21:35:45
拡大
Yuichi Sakuraba
@skrb
@yusuke @syobochim @miyakawa_taku まぁ、そんなに高額なものをサムライズムが扱うとは考えられないから大丈夫かww
2014-10-29 21:37:16
山本ユースケ
@yusuke
@eiryu @skrb @syobochim @miyakawa_taku いや、小計、合計はintで丸めてるので,誤差が積算されてくこともないので^^;
2014-10-29 21:41:57
しょぼちむ
@syobochim
いやでも、Longでもっちゃったら、もうBigDecimalの精度は得られない、っていう言語仕様をちゃんと知ってたら、もっと視野を広く型付けできたのか……。 やっぱりまず言語仕様なんですかね＞＜
2014-10-29 21:18:06
だいくしー
@daiksy
@syobochim 金利の計算で一時的に少数を扱うか、システムの内部で値のライフサイクルとして一律整数しか扱わないかで判断する感じですかねー。
2014-10-29 21:20:30
やんく✌('ω')✌
@yy_yank
@syobochim 真面目な話、そこまで深く考えてる人の方が少ないかもしれません。BigDecimalはセオリーとしてJavaのオッサンには広まってるので、逆に計算をそれ意外でやることを敬遠してるだけ
2014-10-29 21:18:14