丸め誤差

基礎理論

算術演算と誤差 -情報処理シンプルまとめ

基本情報技術者試験など情報処理技術者試験を受験する方にとっては必須の,算術演算と誤差についてシンプルにまとめています。加算や減算,乗算,除算などの算術演算については,コンピューターの場合,論理演算やシフト演算により行うことを,誤差については,桁落ちや,情報落ち,丸め誤差,打切り誤差,オーバーフロー,アンダーフローについて説明しています。じっくり読んでみてください。
基礎理論

情報処理技術者試験 過去問(基礎理論-離散数学) -情報処理シンプルまとめ

情報処理技術者試験(今のところは基本情報技術者試験)の過去問(基礎理論-離散数学)を集めて,シンプルにまとめています。2進数や基数変換,数値表現(2の補数,固定小数点数,浮動小数点数など),集合と論理演算・論理回路(和集合,積集合,補集合,論理和,論理積,否定,排他的論理和,ビット列の操作(ビットの反転など),真理値表,ベン図など),算術演算と誤差(シフト演算,桁落ち,情報落ちなど)について,理解度を確認することができます。解けなかった問題や,完全に理解できていない問題については,【参考】にあるリンク先ページを読んで,もう一度,解いてみてください。難しい問題もあると思いますが,繰り返し解くことにより,だんだんと身に付いてきますので,根気よく頑張りましょう。