SML#実数丸めバグを確認して力尽きた様子

よんた @keita44_f4

@eldesh あかん，予感は外れた．まじわからん…('､3_ヽ)_

立派プログラマ @no_maddo

round 1.5を実行してからrintをインポートしてrint 1.5を評価するのと、インタラクティモードを起動してすぐにインポートし実行するのとでは評価結果が異なっているって問題なのね。

ELD-R-ESH-2 @eldesh

@no_maddojjjjjj そもそもroundも間違った結果になっているように思えます

立派プログラマ @no_maddo

@eldesh あ、そうですね。round 1.5を評価すると２が返ってくるべきですよね。

立派プログラマ @no_maddo

あ、再現した。

立派プログラマ @no_maddo

この問題僕が首突っ込んでも分かるのか・・・？IEEERealとかあんまりわかってないんだけど。

立派プログラマ @no_maddo

やっと言っている意味がわかった。basisの中で丸め込み関数に対してtrunc_unsafeを読んでるからこれがバクじゃないって話か…。

立派プログラマ @no_maddo

ん、違う？trunc_unsafe (realTrunc x)ってなってるのがおかしいって話か。