浮動小数点表示の仮数部が 23 ビットであるコンピュータで計算した場合, 情報落ちが発生する計算式はどれか。 ここで,( )2内の数は2進法で表示されている。
- ア: (10.101)2×2-16 - (1.001)2×2-15
- イ: (10.101)2×216 - (1.001)2×216
- ウ: (1.01)2×218 + (1.01)2×2-5
- エ: (1.001)2×220 + (1.1111)2×221
浮動小数点表示の仮数部が 23 ビットであるコンピュータで計算した場合, 情報落ちが発生する計算式はどれか。 ここで,( )2内の数は2進法で表示されている。
数値を2進数で表すレジスタがある。このレジスタに格納されている正の整数xを 10 倍する 操作はどれか。ここで,シフトによるけたあふれは,起こらないものとする。
負数を2の補数で表すとき、すべてのビットが1であるnビットの2進数”111・・111”が表す数値、またはその数式はどれか。
次の計算は何進数で成立するか。
131-45=53
浮動小数点形式で表示された数値の演算結果における丸め誤差の説明はどれか?
数値を2進数で格納するレジスタがある。このレジスタに正の整数xを設定したあと、”レジスタの値を2ビット左にシフトして、これにxを加える”操作を行うと、レジスタの値はxの何倍になるか。なお、ここで、シフトによるあふれ(オーバーフロー)は発生しないものとする。
16進数表記の小数、2A.4Cと等しい物は、以下のうちどれか?