ITの基礎知識|ITパスポート・基本情報

基本情報技術者 平成19年秋 問4

2017.09.04

浮動小数点形式で表示された数値の演算結果における丸め誤差の説明はどれか?

  • ア:演算結果がコンピュータの扱える最大値を越えることによって、生じる誤差である。
  • イ:数表現の桁数に限度があるので、最下位桁より小さい部分についての四捨五入や切り上げ、切り捨てを行うことによって生じる誤差である。
  • ウ:乗除算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
  • エ:絶対値がほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差である。

Show answer

正解: イ

解説:

丸め誤差は、数値表現の桁数に限度があるので最下位桁より小さい部分について四捨五入や切り上げ、切り捨てを行うことによって生じる誤差。