平成27年秋期午後問2
ココアさん
(No.1)
設問3のbについて質問です。
解説で、このようにあります。
AとBの加算を行うと次のようになります。
1.1×2の5乗+(-0.11×2の5乗)
=(1.1-0.11)×2の5乗
=0.11×2の5乗
=1.1×2の4乗
この計算式の
=(1.1-0.11)×2の5乗
=0.11×2の5乗
の部分ですが
1.1-0.11は、0.99ではないのでしょうか。なぜ0.11になっているのでしょうか。
算数の質問になってしまいすいません。。。
どなたか教えてください。
解説で、このようにあります。
AとBの加算を行うと次のようになります。
1.1×2の5乗+(-0.11×2の5乗)
=(1.1-0.11)×2の5乗
=0.11×2の5乗
=1.1×2の4乗
この計算式の
=(1.1-0.11)×2の5乗
=0.11×2の5乗
の部分ですが
1.1-0.11は、0.99ではないのでしょうか。なぜ0.11になっているのでしょうか。
算数の質問になってしまいすいません。。。
どなたか教えてください。
2021.03.05 11:34
管理人
(No.2)
10進数ではなく2進数の計算だからですよ。
2021.03.05 12:03
広告
返信投稿用フォーム
スパム防止のためにスレッド作成日から30日経過したスレッドへの投稿はできません。
広告