ファニーステップ > 根本の根 TOP> 17.有効数字って何?

根本の根





17.有効数字って何? 


ズバリ、有効数字とは人間の扱う数字のうち信頼できると保証できる数字のこと。

数字を2種類に分けることができて、
神様(人間ではない絶対的な存在)の世界の数字と人間の世界の数字があるんだ。

ここでいう“神様の数字”は数学や算数で使っている数字。
5といったら、5.00000…と無限遠まで0がついていて、
小数第1000万位も0という保証のある数字。
普段、こっちで慣れていると有効数字が不思議に見える。

他方、ここでいう“人間の数字”は人間が測定した数字のこと。
例えば、定規を使って、5cmぐらいの直線の長さを測って欲しいと頼まれたとする。
君は最小目盛り1mmの普通の定規で測った。
1mmの10分の1まで読むのが決まりだから、
4.96cmと答えたとする。
さあ、この数字、4.9600000000…なんだろうか。
君はどこまで保証できる?
本当は4.960000632…かもしれない。
(ここまでぴったりなら、かなり神業的ではあるけれど)
保証できる数字が小数第2位まで、つまり3桁までだよというのが、
有効数字ということなんだ。

1mmの10分の1まで読むという決まりについて。
本来、0.01mmの位の値を四捨五入して0.1mmの位を出すべきなんだ。
だけれど、目測で、0.01の位を四捨五入したぐらいの値が
経験的に普通の人には見えているから(実験による証明が必要な議論)、
四捨五入を省略しようということに決まっている。
(もっと小さい桁まで測る定規はある。例えば、ノギスなど)




ファニーステップ > 根本の根 TOP> 17.有効数字って何?
copyright ファニーステップ all rights reserved.
inserted by FC2 system