-
- いいね！0
Mikka
@mikka_tech
roundの罠。0.0001はスケールが4で、スケールしない時の値は整数の1。roundは整数値に対して丸めようとするので、例えば精度3だとすると、0.0001は(整数値の1に対して考えるので)丸める必要がない。56.789を丸めると整数値56789→56.7 #javajo
2015-06-11 20:52:13
しきや
@shikiyak
精度nで切り捨てる…は、unscaledValueの値を丸めるのかぁ…。BigDecimal使うときは、スケールを頭に置いて考えてないとアカンのかぁ。面白い。 #javajo
2015-06-11 20:53:26
Mikka
@mikka_tech
BigDecimalそのままつかうと、間違った使い方をしてしまう可能性があるのでちょっとこわいかも。知ったうえでラップするutilityクラス作って扱うのがよさげかもね？ #javajo
2015-06-11 20:53:40
山本ユースケ
@yusuke
弊社システムdoubleで計算してるところがあるので税抜き価格が,199円とか気持ち悪い端数になる場合があります #javajo pic.twitter.com/eMLFYArOS0
2015-06-11 22:16:26
拡大
よこな / Ayana
@ihcomega
割と集まってきた！よこなはリモート参加の予定でしたが体力的に瀕死なので不可能に"【東京】Java女子部もくもく会 (06月14日) #javajo javajo.doorkeeper.jp/events/25949"
2015-06-12 10:28:16