ITの基礎知識|ITパスポート・基本情報

【離散数学】の記事一覧

浮動小数点表示の仮数部が 23 ビットであるコンピュータで計算した場合, 情報落ちが発生する計算式はどれか。 ここで,( )2内の数は2進法で表示されている。

  • ア:  (10.101)2×2-16 - (1.001)2×2-15 
  • イ:  (10.101)2×216 - (1.001)2×216
  • ウ:  (1.01)2×218 + (1.01)2×2-5
  • エ:  (1.001)2×220 + (1.1111)2×221
数値を2進数で表すレジスタがある。このレジスタに格納されている正の整数xを 10 倍する 操作はどれか。ここで,シフトによるけたあふれは,起こらないものとする。 ア: xを2ビット左にシフトした値にxを加算し,更に1ビット左にシフトする。 イ: xを2ビット左にシフトした値にxを加算し,更に2ビット左にシフトする。 ウ: xを3ビット左にシフトした値と,xを2ビット左にシフトした値...

Read more...

浮動小数点形式で表示された数値の演算結果における丸め誤差の説明はどれか? ア:演算結果がコンピュータの扱える最大値を越えることによって、生じる誤差である。 イ:数表現の桁数に限度があるので、最下位桁より小さい部分についての四捨五入や切り上げ、切り捨てを行うことによって生じる誤差である。 ウ:乗除算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差であ...

Read more...

数値を2進数で格納するレジスタがある。このレジスタに正の整数xを設定したあと、”レジスタの値を2ビット左にシフトして、これにxを加える”操作を行うと、レジスタの値はxの何倍になるか。なお、ここで、シフトによるあふれ(オーバーフロー)は発生しないものとする。 ア:  3 イ:  4 ウ:  5 エ:  6

Read more...

16進数表記の小数、2A.4Cと等しい物は、以下のうちどれか? ア:  25+23+21+2-2+2-5+2-6 イ:  25+23+21+2-1+2-4+2-5 ウ:  26+24+22+2-2+2-5+2-6 エ:  26+24+22+2-1+2-4+2-5

Read more...