-
higashiyami
- 41768
- 74
- 36
- 12
有効数字…!!

@kana_ides ナイツのネタ 「陸上の世界記録、だいたい9秒です」 「0.01秒競ってる世界なんだからやめろ」
2022-06-13 07:15:33
@kana_ides 勝手に四捨五入しても、どやされますね… 切り捨て、切り上げ、扱う数字でちがう。 それでいて千円単位の時もある(笑)
2022-06-12 20:56:56
@kana_ides なお0.1と0.01はともかく1については「1*10^0」(有効一桁)と「1」(有効∞桁)との区別がある模様
2022-06-12 18:03:17
Excelとの戦いになるやつ.. Excel「後ろのゼロ消しといたでー」 Excel「16桁目に誤差入れてあるで気ぃつけてや」 有効数字が大事な仕事だけにキツい。 判ってない人が作ったExcelとかめっちゃこえぇ(´Д`;) twitter.com/kana_ides/stat…
2022-06-13 10:43:35JISで定められている

@dararox @kana_ides いや、間違いではなさそうです 丸めた後の測定値を表現するために記号としての1を左辺で使い(JIS Z8401規格)、 右辺では一般的な数値として1や3に近い理論値を表現することが出来そうと言っているのですよね、 まあ、一般的な数の捉え方では違うと言われそうですが
2022-06-13 13:59:02
@7xJKOHz2EEOkwYp @kana_ides そういうことです。 ただぱっと見は正しくないので、 念のため「違う」てのも入れました。
2022-06-13 15:27:38ただ、分野にはよる

@kana_ides 数学なのか工学なのかによる。 数学は暗黙で精密解を求めるため、最もシンプルな式になる。 工学はどうしても製品に幅と揺らぎが出るため、許容範囲が必要になる。 あくまで数学が基礎でその応用が工学なの。 ある意味、基礎の段階で応用を利かせようとする話。 基礎がしっかりしてないとダメだよ?
2022-06-13 08:27:51
@SSgt_Fujimoto @kana_ides 裁縫する時、布にきっちり計って印をつけても縫っても歪みます。厚みも考えて 布の方向も考えないと歪みます。 それとは違う? 全然違う?🤣
2022-06-13 15:19:04
@kana_ides 数学と工学の違い。工学では、数字には全て誤差があるものとして取り扱います。従って、0と0.0と0.00は違う数字です。
2022-06-13 07:48:25
@kana_ides 数値の表記を目的別に使い分けることで効率や正確性、分かりやすさなど、重視したいものを選べる数字の優秀な特性だと思う
2022-06-12 22:58:50