-
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみた..
74975pv 437 305 users 853 -
X680x0 浮動小数点演算パッケージの選び方
5406pv 3 1 user -
浮動小数点の誤差についてのメモ
412pv 2