2017年10月28日

浮動小数点数の比較と定数畳み込み

浮動小数点数を比較する際は気をつけようね！

プログラミング浮動小数点数言語 D言語 go言語 JavaScript

前へ 1 2 3

mod_poppo @mod_poppo

JavaScriptからは浮動小数点数の丸めモードを変更することができない（現状のWebAssemblyでも同様のはず）ので、辛そう

2017-10-27 15:19:06

func @func_hs

浮動小数点数の比較はやめましょう(全言語共通)

2017-10-27 10:21:25

Yukihiro Matz @yukihiro_matz

RubyのFloat#==を(a-b).abs<Float::EPSILONと定義すべきだろうか。たぶんやりすぎなんだろうな。 twitter.com/RIORAO/status/…

2017-10-27 20:41:39

RAO(らお) @RIORAO

正確な実数計算をやらされるJavaScriptくん #擬竜戯画 pic.twitter.com/ipE56C2YbV

2017-10-27 02:16:02

Tanaka Akira @tanaka_akr

浮動小数点数の同値性判定でひとつずれた値も許すようにしたら大失敗だったのですぐにやめた、という経験談を昔聞いたのはなんだったかな。調べてみると Dijkstra の ALGOL 60 での話だったようだ。cs.utexas.edu/users/EWD/tran…

2013-12-05 05:57:06

前へ 1 2 3