1

Мне удалось создать очень простую и сложную ошибку числовых вычислений в Excel, мне любопытно узнать причину и, возможно, ее решение:

    |  A      | B                |
----------------------------------
 1  |  X      | 693.702          |
----------------------------------
 2  |  Y      | 693.702          |
----------------------------------
 3  |  Y - X  | 0.0000000000E0   |
----------------------------------
 4  | (Y - X) | 1.1368683772E-13 |
----------------------------------

По существу, в приведенном выше, B1 и B2 содержат одинаковое значение, B3 содержит разницу =B2-B1 а B4 содержит одинаковое в скобках (B2-B1) . Возвращаемое значение значительно отличается.

1 ответ1

1

Я не могу повторить это, но похоже, что вы просто достигли точности с плавающей запятой в вашей версии Excel. Одна из причин, по которой я не могу копировать, - это если ваши значения X и Y являются результатом какого-то другого вычисления.

Это не о чем беспокоиться, но может раздражать. (Мне не о чем беспокоиться, поскольку отличие от правильного результата бесконечно мало, 0,00000000000011368 ...)

Подобный пример

Статья Microsoft KB

Всё ещё ищете ответ? Посмотрите другие вопросы с метками .