2017-12-29から1日間の記事一覧

浮動小数点数に関係する誤差まとめ

打切り誤差 説明 PC上で数値を扱うということは、記憶装置(メモリ)に数値を記録させるということ 記憶装置は有限個しかないのだから、無限に続く数値(循環小数で表記される有理数や、無理数)を記録させようとすると、どうしても途中で桁を打ち切らなけれ…