kihon047
とりあえずネコちゃんは無事救出されました。

で、本題の方も救出しなければいけませんので、
けた落ちですが、浮動小数点数の10進数で説明しますと

0.1234×10の5乗 から 0.1233×10の5乗 の差を求めますと


0.0001×10の5乗となります。で!この際に自動的に正規化されます。


つまり、0.1000×10の2乗 となり有効けた数も4桁から1桁になってしまいます。

この様に、有効けた数が減ってしまうのが”けた落ち”といいます。


情報落ちも正規化をしたときに数値を失ってしまうものであり、


0.1234×10の5乗 と 0.1233×10のマイナス5乗 を足す場合
浮動小数点数どうしなので指数を大きいほうに合わせて行うので

0.1234000001233×10の5乗となります。で!この際に自動的に
正規化する際、小さな数の方は有効けた数から出てしまいます。


結果、0.1234×10の5乗となって小さな数値の方が全く計算結果に
反映されないのです。


にほんブログ村 漫画ブログ 4コマ

漫画へ にほんブログ村 資格ブ

ログ 資格試験勉強法へ にほんブログ村 IT技術ブログ IT技術情報

へ