新聞やニュースなどで、とくに統計や経済などの話題のときに「10千人」「100(単位:千円)」などという表記を見かけることがある(それぞれ「10,000人」「100,000円」を表す)。数学では、これを「浮動小数点表示」と呼ぶ。
浮動小数点を用いれば、桁取りの「0」の数を抑制し、表示がすっきりする。例えば、「1,000」は「103(10の3乗)」であるから、「3,000」は「3 x 1,000」であるから「3 x 103」と表す。同様に、「1/1,000(千分の1)すなわち0.001」は「10-3」であり、「0.008」は「8 x 10-3」と表す
例 1)
1000 = 103 = 1.0×103 |
100000 = 105 = 1.0×105 |
0.1 = 1/10 = 10-1 = 1.0×10-1 |
0.0001 = 1/10000 = 10-4 = 1.0×10-4 |
例 2)
200 = 2.0×102 |
34000 = 3.4×104 |
0.05 = 5.0×10-2 |
0.000067 = 6.7×10-5 |
なお、ベキ乗の数字はしばしば「3の倍数」が用いられる。例えば、「50,000」を浮動小数点で表す場合、「5 x 104」でも間違いではないが、「50 x 103」を用いた方が慣習的に望ましい。これは、大きな数字を表す際の「,(カンマ)」の位置とも馴染むし、後述する「補助単位」とも親和するためである。
平均値を計算して、小数点以下をどこで打ち切る(四捨五入する)か判断できない学生がいる。これは、「有効桁数」の考えを身につければ解決できる。
有効桁数とは、数値のうち、実質的な「意味」を持ち、注目すべき上位桁である。例として、身長の測定を考えてみる。日常の多くの場合、身長は「cm」の単位で測り、測定精度はせいぜい「0.1 cm」であろう(165.8 cm、など)。しかし、もっと厳密な測定器を使えばいくらでも高い精度で測定可能である(165.842638... cm)。これらのうち、いずれの値を採るべきかは状況(身長のデータを何に使うのか?)によって決まる。そして、通常の、「個人の身長を測って他人と比較する」とか、「2つの集団(例えば男女)の平均身長を比較する」といった場合に、「高精度」の方を使う意味はない。なぜなら、個々人の身長の変動幅を考えた場合、0.1 cmといったレベルで違うことはまずないから(換言すれば、0.1 cmの精度で測っておけば「身長の相異」という現象は十分に捉え得るから)である。この場合の「有効桁数」は「4桁(100、10、1、0.1)」となる。
さて、10人分の身長データがあり、それぞれが「有効桁数:4桁」で測定されていたとき、その平均値は小数点何桁まで計算すべきであるか。もともとの有効桁数が4桁であるならば、その平均値も4桁目以降は「無効」である(「興味が無い」と考えてもよい)。すなわち、小数点第2位を四捨五入すれば良いと考えられる。
逆の言い方をすれば、「平均身長は152.3514 cmであった」などと記述した場合、読者は「0.0001 cm(10-4 cm)」という高精度に「意味のある」話が展開されるのだろうと期待するであろう。
【例題演習】
新潟市の人口:804607人を「有効桁数:3桁」で「浮動小数点表示」せよ。→
【例題演習】
von Freyの刺激毛による刺激強度を確かめるため、刺激毛で秤を押したところ 0.524468 g と測定された。レポートに、刺激強度は何 g と書くべきか考えよ。→