解説
プログラムで小数を扱う場合には、いろいろと注意が必要です。プログラムでは、少数は多くの場合、浮動小数点数という方式で扱われます。この浮動小数点という言葉は、小数点が動いていくという意味になります。
この浮動小数点数は、2進数を上手く組み合わせることで、小数を表現しています。この表現方法にはいくつか方式があるのですが、よく使われているIEEE方式(IEEE 754 形式)で説明を行います。
浮動小数点数では、桁を表す部分と、桁を除いた数を表す部分を別にして、値を保持します。
符号部 指数部 仮数部 (S) (E) (M) 1bit 8bit 23bit 凸 凸~凸 凸~凸 (-1)^S * 2^(E+127) * (1+M)
こうすることで、限られたビット数の中で、柔軟な小数を表現することができます。ただし、こういった仕組みのために制限もあります。たとえば、指数部で表せない大きさ、あるいは小ささの桁は表現できません。
また、仮数部で表せる桁数以上の数値も表現できません。そのため、桁数の大きい数や、2進数で割り切れない値では誤差が発生します。
こういった問題があるため、浮動小数点数を計算している内に、この誤差が蓄積して、想定していた値とは違う値になることもあります。そのため、注意が必要です。
また、浮動小数点数を扱う場合は、非常に桁が大きかったり、小さかったりする値を使うことがあります。その場合に数字の中に「E」が入った表記が出てくることがあります。これは、指数表記を表していて、E以降の数は10の何乗であるかという、指数部(exponent)を表します。
1.23E-3 =1.23×10^-3 =0.00123 1.23E3 =1.23×10^3 =1230 m×R^e m 仮数部(mantissa) e 指数部(exponent) R 10(10進数表現の場合)
サンプル
浮動小数点数を扱った処理を、JavaScriptで簡単に書いてみます。
<html> <head> <title>「浮動小数点数」のサンプル</title> </head> <body> <pre><script type="text/javascript"> // 浮動小数点数の加算 document.writeln("0.1ずつ数を増加\n"); var f = 0; for (var i = 0; i < 10; i ++) { document.writeln(i + " : " + f.toFixed(20) + " : " + f); f += 0.1; } </script></pre> </body> </html>
0.1ずつ数を増加 0 : 0.00000000000000000000 : 0 1 : 0.10000000000000000555 : 0.1 2 : 0.20000000000000001110 : 0.2 3 : 0.30000000000000004441 : 0.30000000000000004 4 : 0.40000000000000002220 : 0.4 5 : 0.50000000000000000000 : 0.5 6 : 0.59999999999999997780 : 0.6 7 : 0.69999999999999995559 : 0.7 8 : 0.79999999999999993339 : 0.7999999999999999 9 : 0.89999999999999991118 : 0.8999999999999999