-
「容量の誤差がありすぎる」180グラムの野菜パックを買ったら112グラムも差があった
15666pv 14 44 -
コンベックスの先端はガタガタしているがこのガタの意味を知っている人はプロエンジニア「知らなかった…」「ここを接着剤で..
46015pv 114 44 users 44 -
浮動小数点の誤差についてのメモ
411pv 2
-
抵抗勢力は73種類!?
1221pv 3 -
LibreOffice CalcとExcelの計算結果誤差をみなさんで検証していただいた結果まとめ
96317pv 175 54 users 153 -
一般人と精密部品担当者の「1cmのズレ」に対する感覚が違いすぎる会話がこちらです「仕事始めてからこれ」「発狂レベル」
162879pv 462 317 users 211 -
30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみた..
74945pv 437 305 users 853 -
チェビシェフ多項式。数学。
1212pv 1 -
1/3=0.33…の話(あるいは「実数とは?」前哨戦)
3798pv 6 5 -
鎌倉市の食品持ち込み検査の結果表示をめぐって
13030pv 166 3 users 11 -
ATOMTEX社製食品測定装置とホールボディカウンターの結果レポートの読み方
7481pv 33 1 user 3 -
測定値と検出限界
6963pv 90 1 -
食品用の簡易放射線測定装置でできるだけよい測定を行うために:ATOMTEX AT1320の注意点編
20998pv 97 2 -
私的メモ「食品測定、内部被曝検査など8」(完)
5777pv 35 -
黒猫先生の1/15測定器関連の講演 書き起こし
5795pv 59 3 users 2 -
私的メモ「食品測定、内部被曝検査など7」
5942pv 18 -
誤差と誤差の分布についての会話
1920pv 3 1 user