平成15年秋期試験問題 午前問1
広告
解説
2進数の各桁は、2のべき乗の重みをもちます。つまり、桁が上がるごとに2倍となり、桁が下がるごとに1/2倍となります。
2進数の……,1000, 100, 10, 1, 0.1, 0.01, 0.001, 0.0001,……を10進数で表すと次のようになります。したがって、10進数の0.5, 0.25, 0.125……そのもの、またはそれらの和で表せるものが、2進の浮動小数点表示で誤差を含まずに表現できます。
逆に、そのように表すことができないものを、無限小数といい、それらの数を2進の浮動小数点表示で表現しようとすると誤差が含まれます。
したがって 1/21 で表現できる 0.5 が正解です。
2進数の……,1000, 100, 10, 1, 0.1, 0.01, 0.001, 0.0001,……を10進数で表すと次のようになります。したがって、10進数の0.5, 0.25, 0.125……そのもの、またはそれらの和で表せるものが、2進の浮動小数点表示で誤差を含まずに表現できます。
逆に、そのように表すことができないものを、無限小数といい、それらの数を2進の浮動小数点表示で表現しようとすると誤差が含まれます。
したがって 1/21 で表現できる 0.5 が正解です。
広告