【ウディタ】実数計算のバグ?1で割ったときの値がおかしい #woditor #ウディタ

ウディタで実数計算を使った際、値がおかしくなるようです。
1
このツイートは権利者によって削除されています。
roku @roku_000

@memoria_myr あれ?自分のとこではきちんとできてるよー

2012-03-25 19:43:47
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
K-Shin07(Sitella) @K_Shin07

@memoria_myr たとえばself1=100を代入しておいて self1*=5÷2という計算をすれば、実数計算にチェックが入ってない場合→解は200 入っている場合→解は250

2012-03-25 19:54:02
roku @roku_000

@memoria_myr たぶん、小数点はいらないから捨てて四捨五入するよーってやつじゃない?

2012-03-25 19:54:23
このツイートは権利者によって削除されています。
roku @roku_000

@memoria_myr うーん、直ったのでよし!←

2012-03-25 19:56:06
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
K-Shin07(Sitella) @K_Shin07

@memoria_myr 実数計算にチェックを入れておくと小数も扱えるようになるよね、ということは最終的な答えが小数になることもあるということ、でも小数は格納できないから小数点以下は切り捨てますよって意味

2012-03-25 19:59:34
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
1 ・・ 4 次へ