Calculadora do Windows mostrando uma saída estranha

Question

Tente isso no Windows

Etapas:

1. Abra a Calculadora diretamente ou digite calc in RUN.
2. Em seguida, digite 4 e obtenha raiz quadrada "sqrt"
3. E o que quer que você receba (idealmente você terá 2!), subtraia 2 dele.

Agora, minha pergunta é: isso é matematicamente correto?

    

Answer 1

Idealmente, não está certo, mas a forma como o número de ponto flutuante é representado dentro do computador resultaria em uma resposta inesperada.

Se você olhar para o valor numérico da resposta, é muito próximo de 0, que é a resposta esperada.

    

Answer 2

Não, não é matematicamente correto. 2-2 = 0:)

O Calc está dando é -0.0000000000000000001, o que significa que a função sqrt gerou um número muito próximo de 2, mas que teve uma pequena porção fracionária arredondada para fins de exibição. Quando você subtrai 2, você obtém um número que é muito próximo de 0, mas não é bem assim.

É um artefato de como os números de ponto flutuante são armazenados em um computador. Toda calculadora (não simbólica) terá alguns problemas que produzem resultados incorretos como esse. Por exemplo, tente (sqrt (pi)) ^ 2-pi, que deve ser 0. Eu apenas tentei nesta calculadora on-line e tem -1,3691388027.

    

Answer 3

está dando -8.1648465955514287168521180122928e-39

que é basicamente = 0, pois tem 10 ^ -39 ...