HOME»基本情報技術者平成20年春期»午前問5
基本情報技術者平成20年春期 午前問5
問5
浮動小数点表示の仮数部が23ビットであるコンピュータで計算した場合,情報落ちが発生する計算式はどれか。ここで,( )2内の数は2進法で表示されている。
- (10.101)2×2-16-(1.001)2×2-15
- (10.101)2×216-(1.001)2×216
- (1.01)2×218+(1.01)2×2-5
- (1.001)2×220-(1.1111)2×221
- [出題歴]
- 基本情報技術者 H18春期 問5
分類
テクノロジ系 » 基礎理論 » 離散数学
正解
ウ
解説
情報落ちとは、浮動小数点演算において,絶対値の大きな数と絶対値の小さな数の加減算を行ったとき,絶対値の小さな数の有効けたの一部又は全部が結果に反映されないことが原因で生じる計算誤差です。
各選択肢の絶対値の差を知りたいので指数に注目すると、
各選択肢の絶対値の差を知りたいので指数に注目すると、
- -16と-15で差は1
- 16と16で差は0
- 18と-5で差は23
- 20と21で差は1