離散数学(全109問中77問目)

午前試験免除制度対応!基本情報技術者試験のeラーニング【独習ゼミ】
浮動小数点形式で表現される数値の演算において,有効けた数が大きく減少するものはどれか。

出典:平成18年秋期 問 6

  • 絶対値がほぼ等しく,同符号である数値の加算
  • 絶対値がほぼ等しく,同符号である数値の減算
  • 絶対値の大きな数と絶対値の小さな数の加算
  • 絶対値の大きな数と絶対値の小さな数の減算
正解 問題へ
分野:テクノロジ系
中分類:基礎理論
小分類:離散数学
解説
けた落ちは、コンピュータ上で行う数値演算において発生する誤差のひとつです。

浮動小数点演算をした結果、有効桁数が減ってしまう現象で、①絶対値の非常に近い値同士の減算、②絶対値がほぼ等しく異符号である数値の加算を行ったときに生じます。

したがって「イ」が正解となります。

この問題の出題歴


Pagetop