算術演算と精度

この記事での学習内容 基本情報 応用情報 加減乗除,表現可能な数値の範囲,シフト演算,演算精度(誤差とその対策)など,コ ンピュータでの算術演算を理解する。 用語例: 論理シフト,算術シフト,桁落ち,情報落ち,丸め,打切 … 続きを読む 算術演算と精度