平成17年春期試験問題 午前問4
広告
解説
それぞれの計算誤差の意味は次の通りです。
- アンダーフロー
- 数値演算の結果が、プログラムで使用している数値型変数の型の最小値や、データ領域の下限よりも小さくなることで生じる誤差。
- 打切り誤差
- 無限小数などの計算を途中で打ち切ることなどによって生じる誤差
- けた落ち
- 浮動小数点演算において、絶対値の非常に近い値同士の減算をした場合に、有効桁数が減ってしまうことで生じる誤差
- 情報落ち
- 浮動小数点演算において,絶対値の大きな数と絶対値の小さな数の加減算を行ったとき,絶対値の小さな数の有効けたの一部又は全部が結果に反映されない誤差
広告