1

Я читаю файл Excel с readWorksheetFromFile из библиотеки XLConnect, но кажется, что R добавляет некоторые другие десятичные дроби в последней части числа, я думаю, что эта ошибка не из функции чтения Excel, потому что когда я пишу 51171.556554598111 и нажимаю ввод последние знаки после запятой выглядят так -> [1] 51171.556554598108

1 ответ1

1

Excel хранит 15 значащих цифр точности.
Стандарт IEEE 754 с плавающей запятой требует, чтобы числа сохранялись в двоичном формате.

От Microsoft.com (блог 4/2008): Понимание точности с плавающей запятой aka Почему Excel дает мне, казалось бы, неправильные ответы

См. Также Microsoft.com (справка 4/2018): арифметика с плавающей запятой может давать неточные результаты в Excel

Всё ещё ищете ответ? Посмотрите другие вопросы с метками .