
-
浮動小数点の誤差についてのメモ
243 pv 1
-
-
回転寿司屋で『釜揚げしらす』の一匹おまけキャンペーンが開催されていた「誤差だろこれw」「有難く頂くのでどれがおまけか..
17124 pv 27 85
-
抵抗勢力は73種類!?
1083 pv 3
-
LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ
92864 pv 174 54 users 153
-
一般人と精密部品担当者の「1cmのズレ」に対する感覚が違いすぎる会話がこちらです「仕事始めてからこれ」「発狂レベル」
158191 pv 462 317 users 211
-
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみた..
72791 pv 437 305 users 853
-
チェビシェフ多項式。数学。
1100 pv 1
-
1/3=0.33…の話(あるいは「実数とは?」前哨戦)
3581 pv 6 5
-
鎌倉市の食品持ち込み検査の結果表示をめぐって
12615 pv 166 3 users 11
-
ATOMTEX社製食品測定装置とホールボディカウンターの結果レポートの読み方
7112 pv 33 1 user 3
-
測定値と検出限界
6834 pv 90 1
-
食品用の簡易放射線測定装置でできるだけよい測定を行うために:ATOMTEX AT1320の注意点編
20634 pv 97 2
-
私的メモ「食品測定、内部被曝検査など8」(完)
5387 pv 35
-
黒猫先生の1/15測定器関連の講演 書き起こし
5690 pv 59 3 users 2
-
私的メモ「食品測定、内部被曝検査など7」
5619 pv 18
-
誤差と誤差の分布についての会話
1776 pv 3 1 user