Windows Calculator, показывающий странный вывод

Question

Попробуйте это на Windows

шаги:

1. Откройте калькулятор напрямую или введя calc в RUN.
2. Затем введите 4 и возьмите квадратный корень "sqrt"
3. И что бы вы ни получили (в идеале вы получите 2!), Вычтите 2 из него.

Теперь мой вопрос, это математически правильно ??

Answer 1

В идеале это неправильно, но то, как числа с плавающей запятой представляются внутри компьютера, привело бы к такому неожиданному ответу.

Если вы посмотрите на числовое значение ответа, оно очень близко к 0, что является ожидаемым ответом.

Answer 2

Нет, это не математически верно. 2-2 = 0 :)

Calc дает -0.0000000000000000001, что означает, что функция sqrt выдает число, очень близкое к 2, но которое имеет некоторую крошечную дробную часть, округленную для целей отображения. Когда вы вычитаете 2, вы получаете число, которое очень близко к 0, но не совсем.

Это артефакт того, как числа с плавающей запятой хранятся в компьютере. Каждый (не символьный) калькулятор будет иметь некоторые проблемы, которые приводят к неправильным результатам, как это. Например, попробуйте (sqrt (pi)) ^ 2-pi, который должен быть 0. Я только что попробовал это в этом онлайн калькуляторе и получил -1.3691388027.

Answer 3

это дает -8.1648465955514287168521180122928e-39

который в основном = 0, поскольку у него есть 10 ^ -39 ...