2017-12-29から1日間の記事一覧
打切り誤差 説明 PC上で数値を扱うということは、記憶装置(メモリ)に数値を記録させるということ 記憶装置は有限個しかないのだから、無限に続く数値(循環小数で表記される有理数や、無理数)を記録させようとすると、どうしても途中で桁を打ち切らなけれ…
打切り誤差 説明 PC上で数値を扱うということは、記憶装置(メモリ)に数値を記録させるということ 記憶装置は有限個しかないのだから、無限に続く数値(循環小数で表記される有理数や、無理数)を記録させようとすると、どうしても途中で桁を打ち切らなけれ…