学校では小数点以下の0は消しなさいと言われるが、工場で0を消したら違う数字だ、と怒られる

78
神奈いです @kana_ides

学校「小数点の計算をしたら後ろのゼロは消しなさい!」 工場「1と1.0と1.00は違う数字だから消すんじゃねぇ?!!」

2022-06-12 10:15:44
神奈いです @kana_ides

1=0.51~1.49 1.0=0.95~1.05 1.00=0.995~1.005 ※JIS Z 8401による

2022-06-12 10:22:31

有効数字…!!

永遠の精神年齢14歳 @OC6PJ94f6CnI4Qv

@kana_ides ナイツのネタ 「陸上の世界記録、だいたい9秒です」 「0.01秒競ってる世界なんだからやめろ」

2022-06-13 07:15:33
あお @NMWCKfMSw6eJESd

@kana_ides 勝手に四捨五入しても、どやされますね… 切り捨て、切り上げ、扱う数字でちがう。 それでいて千円単位の時もある(笑)

2022-06-12 20:56:56
ほらいずんず(2006) @SunHorizon2006

@kana_ides なお0.1と0.01はともかく1については「1*10^0」(有効一桁)と「1」(有効∞桁)との区別がある模様

2022-06-12 18:03:17
evijanEnl @evijanEnl

Excelとの戦いになるやつ.. Excel「後ろのゼロ消しといたでー」 Excel「16桁目に誤差入れてあるで気ぃつけてや」 有効数字が大事な仕事だけにキツい。 判ってない人が作ったExcelとかめっちゃこえぇ(´Д`;) twitter.com/kana_ides/stat…

2022-06-13 10:43:35
nishin @nishin_8

有効数字。数学と物理学の違いだよね。 twitter.com/kana_ides/stat…

2022-06-13 08:03:58

JISで定められている

ルロヒト@ライムスター @dararox

@kana_ides つまり、 1+1=1 1+1=3 も成り立つ(違う

2022-06-13 09:46:37
18さい @7xJKOHz2EEOkwYp

@dararox @kana_ides いや、間違いではなさそうです 丸めた後の測定値を表現するために記号としての1を左辺で使い(JIS Z8401規格)、 右辺では一般的な数値として1や3に近い理論値を表現することが出来そうと言っているのですよね、 まあ、一般的な数の捉え方では違うと言われそうですが

2022-06-13 13:59:02
ルロヒト@ライムスター @dararox

@7xJKOHz2EEOkwYp @kana_ides そういうことです。 ただぱっと見は正しくないので、 念のため「違う」てのも入れました。

2022-06-13 15:27:38
もす @cogito0615

@kana_ides JISで決められてるんや( ; ゚Д゚)

2022-06-13 00:51:55

ただ、分野にはよる

武田典厩信繁 台湾加油 @SSgt_Fujimoto

@kana_ides 数学なのか工学なのかによる。 数学は暗黙で精密解を求めるため、最もシンプルな式になる。 工学はどうしても製品に幅と揺らぎが出るため、許容範囲が必要になる。 あくまで数学が基礎でその応用が工学なの。 ある意味、基礎の段階で応用を利かせようとする話。 基礎がしっかりしてないとダメだよ?

2022-06-13 08:27:51
satomi. foo 🇯🇵 @3103_8815

@SSgt_Fujimoto @kana_ides 裁縫する時、布にきっちり計って印をつけても縫っても歪みます。厚みも考えて 布の方向も考えないと歪みます。 それとは違う? 全然違う?🤣

2022-06-13 15:19:04
かずくん @kazu_morimatsu

@kana_ides 数学と工学の違い。工学では、数字には全て誤差があるものとして取り扱います。従って、0と0.0と0.00は違う数字です。

2022-06-13 07:48:25
18さい @7xJKOHz2EEOkwYp

@kana_ides 数値の表記を目的別に使い分けることで効率や正確性、分かりやすさなど、重視したいものを選べる数字の優秀な特性だと思う

2022-06-12 22:58:50
18さい @7xJKOHz2EEOkwYp

@kana_ides 問題としては、数値の表記は自由度が案外高いものだと言うことを教えられてないことだと思った

2022-06-12 23:00:47