浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
- ア 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
- ウ 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
【算術演算と精度】の記事一覧
数値を２進数で格納するレジスタがある。このレジスタに正の整数ｘを設定したあと、”レジスタの値を２ビット左にシフトして、これにｘを加える”操作を行うと、レジスタの値はｘの何倍になるか。なお、ここで、シフトによるあふれ（オーバーフロー）は発生しないものとする。 ア： ３ イ： ４ ウ： ５ エ： ６