離散数学 (全109問中77問目)
No.77
浮動小数点形式で表現される数値の演算において，有効けた数が大きく減少するものはどれか。
出典：平成18年秋期 問6
- 絶対値がほぼ等しく，同符号である数値の加算
- 絶対値がほぼ等しく，同符号である数値の減算
- 絶対値の大きな数と絶対値の小さな数の加算
- 絶対値の大きな数と絶対値の小さな数の減算
- [出題歴]
- 基本情報技術者 H14春期 問4
分類
テクノロジ系 » 基礎理論 » 離散数学
正解
イ
解説
けた落ちは、コンピュータ上で行う数値演算において発生する誤差のひとつです。
浮動小数点演算をした結果、有効桁数が減ってしまう現象で、①絶対値の非常に近い値同士の減算、②絶対値がほぼ等しく異符号である数値の加算を行ったときに生じます。
したがって「イ」が正解となります。
浮動小数点演算をした結果、有効桁数が減ってしまう現象で、①絶対値の非常に近い値同士の減算、②絶対値がほぼ等しく異符号である数値の加算を行ったときに生じます。
したがって「イ」が正解となります。