読者です 読者をやめる 読者になる 読者になる

Life + Chemistry

化学の講義録+大学を楽しく面白い学びの場に変える試みの記録 (北里大学・野島 高彦)

有効数字と物理量の表しかたと端数の処理

化学実験 FAQ 化学講義+

有効数字の取り扱い方とか,物理量の表し方とか,四捨五入のやり方とかについて毎年毎年 何度も何度も何度も何度も何度も何度も同じことを繰り返し繰り返し質問されるので,ここにまとめておきます.

1 有効数字

f:id:takahikonojima:20130615235319p:plain
掛け合わされる数値のうち,もっとも桁数の小さいものと同じ桁数で解答します.割り算も同じ.
f:id:takahikonojima:20130618162121p:plain
足し算・引き算では別の考え方をします.少ない桁数に合わせるのは掛け算・割り算です.
f:id:takahikonojima:20130615235515p:plain
左側のゼロは有効数字の桁数にカウントしません.桁数にカウントするのは右側のゼロ.
f:id:takahikonojima:20130615235603p:plain
悩ましいのが小数点以上のゼロをどう扱うかです.「500」の場合,「3桁」と解釈するのが「普通」なのですが,「1桁」と解釈しても誤りとは言い切れないのです*1.これを回避するためにピリオドを打って「500.」と書いたり,
「5.00×102」と書いたりするわけです.SIは5.00×102を推奨しています.
f:id:takahikonojima:20130615235803p:plain
有効数字の桁数が無限と考える場合もあります.例えば「ボールが1個」と言った場合,1.013個とか0.997個っていうことはあり得ないので,「厳密に1個」と考えます.
定義についての記述も有効数字の桁数を考えません.1 mが100 cmだと言った場合,厳密な1 mが厳密な100 cmに対応しているわけです.
円周率πとか自然対数の底eとかも有効数字無限桁と考えます.

2 物理量の記述

国際文書第8版 (2006)国際単位系(SI)日本語版/訳・監修 (独)産業技術総合研究所 計量標準総合センター に基づいて説明します.
f:id:takahikonojima:20130616213153p:plain
数値と単位をくっつけてはいけません.「°C」も「%」も数値との間にスペースを入れるのが国際ルールに従った方法です*2
f:id:takahikonojima:20130616000346p:plain
複数の単位が組み合わさった単位を書く場合,「/」を使っても良いし,マイナス1乗とあらわしてもOKです.
単位が掛け合わされる場合には,単位と単位の間にスペースを入れるか,あるいは「・」を入れる決まりになっています.
掛け合わされる単位を書く順番には決まりがありません.
f:id:takahikonojima:20130616000718p:plain
「/」の後に複数の単位が来る場合には,それらを「( )」でひとまとめにしてやる必要があります.8.3 J/(K mol)はOKですが,8.3 J/K molは誤りです.
コレだと8.3 J mol/Kに誤解される可能性があるからです.

3 数字の丸め込み

f:id:takahikonojima:20130616001023p:plain
四捨五入については義務教育で習いました.
f:id:takahikonojima:20130616001119p:plain
しかし,四捨五入には悩ましい問題点があります.たくさんのデータについて四捨五入を適用すると,「切り上げ」られるデータの方が多くなるため,データに偏りが生じてしまうのです.
f:id:takahikonojima:20130618161201p:plain
コレを防ぐために「四捨六入」という処理方法があります.処理される数字が5の場合,それよりも一桁上の位に奇数があれば5を切り上げ,偶数があれば切り捨て,という処理です*3

説明スライドの提供(追記:2014-04-21)

教育機関や研究機関に所属される方が教育や研修に使用する場合に限り,この記事の内容を説明するスライド(pptx)を提供しております.お問い合わせはe-mailで.
f:id:takahikonojima:20140421143730g:plain

*1:どちらなのかはいっしょに計算する数値をみて推測します.たとえば499, 500, 501という具合に数値が並んでいたら,この場合の500は有効数字3桁と見なします.そして,有効数字1桁,という状況は,そう滅多にお目にかかれるものではありません.

*2:しかし歴史的経緯により,°Cと%は数字にくっつける書き方が許されてしまっているのが現状です.

*3:【追記:2014-04-22】このページは大学1年生むけにつくったものです.「たくさんのデータを扱うときには四捨六入しなければならない」ではなく,「四捨六入って何なのか」です.