浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
- ア 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
- ウ 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
【離散数学】の記事一覧
図に示す1けたの2進数xとyを加算し，z（和の1けた目）及びc（けた上げ）を出力する半加算器において，AとBの素子の組合せとして，適切なものはどれか。
図の論理回路と同じ出力が得られる論理回路はどれか。
0000～4999のアドレスを持つハッシュ表があり、レコードのキー値からアドレスに変換するアルゴリズムとして基数変換法を用いる。キー値が55550のときのアドレスはどれか。ここで、基数変換法とは、キー値を11進数とみなし、10進数に変換した後、下4桁に対して0.5を乗じた結果（小数点以下は切り捨て）をレコードのアドレスとする。 ア： 0260 イ： 2525 ウ： 2775 エ...
浮動小数点表示の仮数部が 23 ビットであるコンピュータで計算した場合， 情報落ちが発生する計算式はどれか。 ここで，( )2内の数は２進法で表示されている。 ア： (10.101)2×2－16 － (1.001)2×2－15 イ： (10.101)2×216 － (1.001)2×216 ウ： (1.01)2×218 ＋ (1.01)2×2－5 エ： (1.001)...
数値を２進数で表すレジスタがある。このレジスタに格納されている正の整数ｘを 10 倍する 操作はどれか。ここで，シフトによるけたあふれは，起こらないものとする。 ア： ｘを２ビット左にシフトした値にｘを加算し，更に１ビット左にシフトする。 イ： ｘを２ビット左にシフトした値にｘを加算し，更に２ビット左にシフトする。 ウ： ｘを３ビット左にシフトした値と，ｘを２ビット左にシフトした値...
負数を２の補数で表すとき、すべてのビットが１であるｎビットの２進数"111・・111”が表す数値、またはその数式はどれか。 ア： －（２ｎ－１－１） イ： －１ ウ： ０ エ： ２ｎ－１
次の計算は何進数で成立するか。１３１－４５＝５３ ア： ６ イ： ７ ウ： ８ エ： ９
１ビットの数、Ａ，Ｂの和を２ビットで表現したとき、上位ビットＣと下位ビットＳを表す論理式の組合せはどれか。ここで”・”は論理積、”＋”は論理和、ＸはＸの否定を表す。
図の論理回路と同じ出力が得られる論理回路はどれか。ここで、 は論理積（ＡＮＤ）、 は論理和（ＯＲ）、は否定（ＮＯＴ）を表す。 ア： イ： ウ： エ：