4コマで勉強する基本情報処理

基本情報処理を4コマにしながら勉強中。 同じ勉強をしてる方々の参考の足しにでもなれば幸いです。

誤差

誤差 その2

kihon047
とりあえずネコちゃんは無事救出されました。

で、本題の方も救出しなければいけませんので、
けた落ちですが、浮動小数点数の10進数で説明しますと

0.1234×10の5乗 から 0.1233×10の5乗 の差を求めますと


0.0001×10の5乗となります。で!この際に自動的に正規化されます。


つまり、0.1000×10の2乗 となり有効けた数も4桁から1桁になってしまいます。

この様に、有効けた数が減ってしまうのが”けた落ち”といいます。


情報落ちも正規化をしたときに数値を失ってしまうものであり、


0.1234×10の5乗 と 0.1233×10のマイナス5乗 を足す場合
浮動小数点数どうしなので指数を大きいほうに合わせて行うので

0.1234000001233×10の5乗となります。で!この際に自動的に
正規化する際、小さな数の方は有効けた数から出てしまいます。


結果、0.1234×10の5乗となって小さな数値の方が全く計算結果に
反映されないのです。


にほんブログ村 漫画ブログ 4コマ

漫画へ にほんブログ村 資格ブ

ログ 資格試験勉強法へ にほんブログ村 IT技術ブログ IT技術情報

へ

誤差 その1

kihon046
どうしても桁数が決まっているので誤差は発生してしまうので、
どんなパターンがあるかを理解しなれればいけないと言うことです。


丸め誤差と打切り誤差は、切捨ての丸め誤差となると途中でやめる
打切り誤差と同じになると思います。


とりあえず、丸めは切上げ、切捨て、四捨五入。打切りはそのまま
打ち切ると覚えるといいかなと。

にほんブログ村 漫画ブログ 4コマ

漫画へ にほんブログ村 資格ブ

ログ 資格試験勉強法へ にほんブログ村 IT技術ブログ IT技術情報

へ
プロフィール

ぺた@ぺん

タグクラウド
QRコード
QRコード
  • ライブドアブログ