有効数字の妥当な取り扱い

bra-ketくん @mac_wac

高校生に有効数字を教えていて「有効数字ニセ科学論」には大きく同意するところだが、高校生に不確かさを含む物理量をどう教えるのが適切か、大学教員の方々と一回議論してみたい（入試を完全に無視はできないし）。 / “有効数字の決め方にも…” htn.to/iwr3yR

bra-ketくん @mac_wac

有効数字ニセ科学論について外で話す機会があったので、せっかくなので整理しておこう。

bra-ketくん @mac_wac

不確かさをちゃんと表したいときは、±を使って定量的に書くのが大原則である。不確かさは通常一桁で表すが、もっと大雑把に桁数だけ表現するときに用いるのが有効数字表記。たとえば、有効数字表記で1.23と記したときは、「小数第二位に不確かさが含まれる」と解釈すべきである。

bra-ketくん @mac_wac

たとえば、1.23と記したときは1.23±0.01を表現しているとか、もっと強く範囲[1.225,1.235]に含まれるとか主張する者もいるが、誤解である。最小目盛り0.1Vの電圧計を読んでも、0.5Vの電圧計を読んでも、まとめて双方小数第二位まで有効としてしまうことから明らか。

bra-ketくん @mac_wac

この有効数字表記では、絶対不確かさは有効な最小位によって、相対不確かさは有効桁数によって表されると考えることができる。無論、非常に大雑把だ。たとえば同じ3桁有効なケースでも、1.00±0.9だと相対不確かさ9%、9.99±0.1だと相対不確かさ0.1%。最大2桁の広さが含まれる。

bra-ketくん @mac_wac

ここから、絶対不確かさが大きく異なる2数の和・差の絶対不確かさは、誤差伝播則Δ(x+y)^2=Δx^2+Δy^2より大きい方の絶対不確かさにほぼ等しいと考えられる。これを有効数字に読み替え、最小有効桁が高位のほうの引数に最小有効桁を合わせると考えるわけである。

bra-ketくん @mac_wac

したがって、高校物理の世界では、絶対不確かさがほぼ等しい数を何回も足しながらも有効な最小桁が変わらないので、話がおかしくなるわけだ。実験のデータ処理なんかにこの手の処理が頻出するので、困る。

bra-ketくん @mac_wac

乗除も同様だ。[Δ(xy)/(xy)]^2=(Δx/x)^2+(Δy/y)^2なので、相対不確かさが大きく異なる2数の積・商の不確かさは大きい方の相対不確かさに等しいとみなせる。有効数字に読み替えると、有効桁数が少ない方に合わせよというよく知られたルールになる。

bra-ketくん @mac_wac

ただし、前述の通り、有効数字で表せる相対不確かさはかなり大雑把なので、たとえば(1.01±0.01)×(0.99±0.1)=10.1±0.2みたいな、「3桁×2桁」でも積の有効桁数が3桁出るようなケースは極普通に生じうる（引数の相対不確かさが双方1%程度なので何ら不思議でない）。

bra-ketくん @mac_wac

なお、本来は数値で表すべき不確かさを桁数に「丸める」行為は、当然四則演算と非可換だ。たとえば(0.51+0.50)/2.0と0.51/2.0+0.50/2.0は有効桁数が異なる。（なお、不確かさを真面目に数値で扱う際にもこの事象は注意すべき。不確かさの無相関性が伝播則の前提。）

bra-ketくん @mac_wac

「途中計算は1桁余分に取って残りは丸めろ」みたいな指導もされるが、これも目安であって十分条件ではない。何桁余分に取ったところで、丸め誤差がゼロで なければ最終的に必要な桁まで伝播する可能性もゼロではない。とはいえ、実用上は2桁余分に取ればほぼ問題ないだろう。1桁だとたまに効く。

bra-ketくん @mac_wac

なお、「1桁取って丸める際は四捨五入でなく切り捨てろ」みたいな主張もあるが、四捨五入の否定は適切ではない。切り捨てだと丸め誤差が大きくなるうえ、負方向にバイアスが生じる。これが上位桁に飛ぶ確率も大きくなる。二重丸めであっても基本的に四捨五入、もっといえば偶数丸めが常に適している。

bra-ketくん @mac_wac

総括して何が言いたいかというと、有効数字は不確かさを大雑把に表すには簡潔で便利な手法ではあるのだが、それを金科玉条のごとくに奉賛し、「教科書に書いてある規則にしたがえば不確かさを表すのに必要十分だ」とか考えだすと途端にニセ科学になる。当然ながら、試験で問うのも抑制されるべきだ。