浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
- ア 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
- ウ 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
正解： イ
解説：
コンピュータが数値を有限のビット数で表現することに起因する誤差には，以下のような種類があります。
丸め誤差は，数値のけた数（ビット数）に上限があるため，表現できる最小単位より小さい部分を四捨五入・切上げ・切捨てすることで発生する誤差です。浮動小数点演算では，仮数部のビット数を超えた精度は保持できないため，計算のたびに小さな誤差が蓄積します。
その他の誤差との区別を確認します。