-
- いいね！0
K-Shin07(Sitella)
@K_Shin07
@memoria_myr あ、確かに1000になるのはおかしいね、計算的には999.99999……になるはずだから
2012-03-25 20:04:54
.
@lllkarasu
@memoria_myr 確かに小数切り捨てって書き方は分かりにくいですよね 小数点以下が切り捨てられるので 3.????????（?は何かしらの数字が入る）が全て3で表示されます
2012-03-25 20:05:12
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
K-Shin07(Sitella)
@K_Shin07
【実数計算】いろいろ実験してみたけど値が8ケタを超えるとおかしくなるね（99999999/10＝10000000になる、9999999/10=999999）
2012-03-25 20:10:05
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
.
@lllkarasu
@memoria_myr 何かバグだったり単位の仕様だったりするんですかねぇ 私のパソコンはエクセルないので再現できないです（表関連はCSVエディタやGoogleDoc使ってます）
2012-03-25 20:14:41
このツイートは権利者によって削除されています。
K-Shin07(Sitella)
@K_Shin07
@memoria_myr もうこれ、バグ報告したほうがいいような気がする。しかもそれはさすがにおかしいわw
2012-03-25 20:18:11
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
このツイートは権利者によって削除されています。
K-Shin07(Sitella)
@K_Shin07
@memoria_myr ちょっとこっちで検証用のプログラム作ってみる、まあうまく作れるかはわからないけど
2012-03-25 20:33:33