平成17年秋期試験問題 午前問6
問6解説へ
浮動小数点表示された数値の演算結果における丸め誤差の説明はどれか。
- 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- 数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。
- 乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- 絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。
広告
解説
- オーバーフローの説明です。コンピュータが扱える数値の範囲を超える計算を行った際に発生します。
- 正しい。丸め誤差は、数値を有限けたで表現するために、有限けた未満の部分を切り捨てたり切り上げたりすることで生じる誤差です。
- 情報落ちの説明です。非常に大きい数と非常に小さい数の計算において、小さい数が無視される現象です。
- けた落ちの説明です。けた数が減って精度が低下する現象です。符号が同じで絶対値が近い数の減算、または異符号で絶対値が近い数の加算で発生します。
広告