桁落ち

基礎理論

算術演算と誤差 -情報処理シンプルまとめ

基本情報技術者試験など情報処理技術者試験を受験する方にとっては必須の,算術演算と誤差についてシンプルにまとめています。加算や減算,乗算,除算などの算術演算については,コンピューターの場合,論理演算やシフト演算により行うことを,誤差については,桁落ちや,情報落ち,丸め誤差,打切り誤差,オーバーフロー,アンダーフローについて説明しています。じっくり読んでみてください。