【ウディタ】実数計算のバグ？1で割ったときの値がおかしい #woditor #ウディタ (3ページ目)

このツイートは権利者によって削除されています。

K-Shin07(Sitella) @K_Shin07

とりあえず検証プログラム作成途中です http://t.co/kIPWZF2U

2012-03-25 21:01:51

拡大

幾山アカリ @akari_story

変数呼び出し値の機能のあたりも悪さしてそう＞切捨て

2012-03-25 21:54:09

K-Shin07(Sitella) @K_Shin07

【実数計算バグ】16777217以上　-16777217以下から発生しだします(1で割る場合)

2012-03-25 22:03:37

K-Shin07(Sitella) @K_Shin07

1以外はまだ検証してないけど、とりあえず1で割った場合はそんな感じだった http://t.co/6SMreAt9

2012-03-25 22:04:57

拡大

このツイートは権利者によって削除されています。

K-Shin07(Sitella) @K_Shin07

【実数計算バグ】現在進行形で計測中ですが2の倍数だと発生しない模様

2012-03-25 22:20:05

K-Shin07(Sitella) @K_Shin07

【実数計算バグ】計測終了、2の倍数で発生確認　33554434から発生

2012-03-25 22:20:54

このツイートは権利者によって削除されています。

K-Shin07(Sitella) @K_Shin07

とりあえず奇数だと16777217からだね

2012-03-25 22:25:21

K-Shin07(Sitella) @K_Shin07

奇数→16777217から発生偶数→33554434から発生おそらくマイナスでも同様の結果になると推測

2012-03-25 22:27:22

K-Shin07(Sitella) @K_Shin07

マイナス値で発生確認　とりあえず±16^6内の範囲であれば正常動作

2012-03-25 22:30:47

このツイートは権利者によって削除されています。

K-Shin07(Sitella) @K_Shin07

【実数計算バグ】今のところ情報をまとめるとこうなる http://t.co/V8uuHGtr

2012-03-25 22:35:39

拡大

このツイートは権利者によって削除されています。

K-Shin07(Sitella) @K_Shin07

@memoria_myr みたいだね、とりあえずこれ以上の検証は難しそうだから報告してみようと思う

2012-03-25 22:42:26

このツイートは権利者によって削除されています。