オーバーフロー談義

agw @masashinakata

(何が駄目かって大きな値のテストを書いていないのが駄目 ＞＜)

agw @masashinakata

しばらくINFの定義を1000000002486618624LLにしてみる

たかわ @tkw_tech

@masashinakata どういう意図があるんですか？

ぷち＠プログラマ日本一です @takapt0226

infは毎度書いてる

agw @masashinakata

@tkw_tech やー、うまくいくかどうか全然分からんのですが…今までコードのテンプレートでINFを10^9として定義していたんですけど、昨日こどふぉで値域が[-10^14, 10^14]だったのにも関わらずINFを更新しなくて落としたんですよ(ごめんなさい続きますw)

agw @masashinakata

@tkw_tech なんで、intにキャストしたときにピッタリ10^9となる、10^18を超えるunsigned long longの値を。と思いまして…いや、自分の気性に合うかどうかも分からんのですけどね…まんまintにキャストするとワーニング出るし…w

agw @masashinakata

(それもいいなあ...@__mathさんのtenマクロを導入するのもいいのかもなあ) twitter.com/takapt0226/sta…

たかわ @tkw_tech

@masashinakata あーなるほど．それであの中途半端な値だったわけですね．ありがとうございます！

agw @masashinakata

@tkw_tech いえいえ〜。しばらく試してみまーすw

たかわ @tkw_tech

INFの値はmod問題でそのまま使えるから〜という理由で1000000007にしていたなあ

ぷち＠プログラマ日本一です @takapt0226

（tenマクロ一番最初に始めたの僕だったような気がしないでもない

agw @masashinakata

(オーバーフロー談義に@albireo_Bさんからコメント付いていた。@mayoko_さんのツィートに答えてくれていた togetter.com/li/929463)

agw @masashinakata

(まじか、ごめんよオリジナル間違い…)

ぷち＠プログラマ日本一です @takapt0226

いや記憶怪しいですが

agw @masashinakata

(なんかこないだ診ちゃんもtenマクロについて言及していたような)

ぷち＠プログラマ日本一です @takapt0226

-ftrapvオプション、意図的にオーバーフローしてるときどうなるんだろう

tubo28 @tubo28

infを0x3f3f...にしてる人がよくいるけど理由が気になる

agw @masashinakata

(僕のまとめにコメント付くの珍しいなあ…)

ぷち＠プログラマ日本一です @takapt0226

@tubo28 2倍してもオーバーフローしないからだと思いました

agw @masashinakata

(なんかINF談義が微妙にオーバーフロー談義に被ってしまった…まとめに突っ込んでしまえw)

ぷち＠プログラマ日本一です @takapt0226

3f3f3f3fと'3f' * nにしてる理由かな・・

ぷち＠プログラマ日本一です @takapt0226

よくわからん

tubo28 @tubo28

@takapt0226 もっとタイプ数が少ない方法があるのでメインの理由ではない気がしました

ぷち＠プログラマ日本一です @takapt0226

0x7fffffffは32bit signed intの最大。2倍しても大丈夫なように7f -> 3f、桁を間違えないように4回繰り返し、とかかな

ぷち＠プログラマ日本一です @takapt0226

自分が使うinfは、114514, 1919810, ten(9)のどれかになることが大半