平成20年春期試験問題 午前問5
問5解説へ
浮動小数点表示の仮数部が23ビットであるコンピュータで計算した場合，情報落ちが発生する計算式はどれか。ここで，( )2内の数は2進法で表示されている。
- (10.101)2×2-16－(1.001)2×2-15
- (10.101)2×216－(1.001)2×216
- (1.01)2×218＋(1.01)2×2-5
- (1.001)2×220－(1.1111)2×221
広告
解説
情報落ちとは、浮動小数点演算において，絶対値の大きな数と絶対値の小さな数の加減算を行ったとき，絶対値の小さな数の有効けたの一部又は全部が結果に反映されないことが原因で生じる計算誤差です。
各選択肢の絶対値の差を知りたいので指数に注目すると、
各選択肢の絶対値の差を知りたいので指数に注目すると、
- -16と-15で差は1
- 16と16で差は0
- 18と-5で差は23
- 20と21で差は1
広告