平成14年春期試験問題 午前問4
問4解説へ
浮動小数点形式で表現される数値の演算において，有効けた数が大きく減少するものはどれか。
- 絶対値がほぼ等しく，同符号である数値の加算
- 絶対値がほぼ等しく，同符号である数値の減算
- 絶対値の大きな数と絶対値の小さな数との絶対値による加算
- 絶対値の大きな数と絶対値の小さな数との絶対値による減算
広告
解説
けた落ちは、コンピュータ上で行う数値演算において発生する誤差のひとつです。
浮動小数点演算をした結果、有効桁数が減ってしまう現象で、①絶対値の非常に近い値同士の減算、②絶対値がほぼ等しく異符号である数値の加算を行ったときに生じます。
したがって「イ」が正解となります。
浮動小数点演算をした結果、有効桁数が減ってしまう現象で、①絶対値の非常に近い値同士の減算、②絶対値がほぼ等しく異符号である数値の加算を行ったときに生じます。
したがって「イ」が正解となります。
広告