こんにちは、ケースケです。

コンピュータというと”完璧”、”正確”、”計算が得意”などのイメージを持つ人が多いと思います。

一方で、コンピュータ(主にはパソコン)を使って計算をした時に、「計算が違う」または、「謎の数字を返された」という経験をしたことがある人も多いのではないでしょうか。

かく言う私も例に漏れず経験したことがあります。

例えば、0.1×100＝10.000002 など

答えは10であるはずなのに、なぜこのような数字をコンピュータは返すのでしょうか。

それを理解するには、コンピュータが扱う２進数を理解すればわかります。

２進数ってなに？と言う方は、「ビットとバイト」で説明していますので、こちらを読んでください。

0.1×100＝10.000002になる理由

結論から言うと、10進数の少数点数の中には、2進数に正確に変換できないからです。

２進数は１桁目を2の0乗、２桁目を2の1乗、３桁目を2の4乗…と重み付けをし、その数値を使うか使わないか「０」と「１」を使い表します。

例えば、10進数の３は２進数では１１、10は２進数では１０１０となります。

そして、これは少数点数でも同じです。

つまり、少数点数１桁目は2のマイナス1乗、２桁目は2のマイナス2乗、３桁目は2のマイナス3乗…となります。

ちなみに、2のマイナス1乗は0.5、2のマイナス2乗は0.25、2のマイナス3乗は0.125です。

このように、各桁の数字を使うか使わないかの組み合わせでしか数字を表せないので、正確に表せない数字が出てきてしまうのです。そして、正確に表せない数字については近似値になってしまいます。

これが、0.1×100＝10.000002になり、コンピュータがたまにおかしな数字を返してくる理由です。