Eu tenho um problema que me exaspera:
Quando eu pego a calculadora do Windows 7 no modo padrão, se eu fizer
4
e, em seguida, √
(raiz quadrada), o resultado é 2
Bem.
Mas, neste ponto, se eu fizer
-
(menos) e, em seguida, 2
, o resultado é -1,068281969439142e-19
em vez de 0
!
OK, eu sei sobre ϵ
( epsilon de máquina ) e, sim, -1,068281969439142e-19
é menor que o 64 bits ϵ
( 1.11e-16
), portanto, temos um estouro aritmético , em outras palavras, neste caso: 0
.
Ótimo, meu computador é capaz de representar números subnormais em vez de apenas liberar a zero quando isso acontece, e parece que é uma melhoria !
Subnormal values fill the underflow gap with values where the absolute distance between them are the same as for adjacent values just outside of the underflow gap. This is an improvement over the older practice to just have zero in the underflow gap, and where underflowing results were replaced by zero (flush to zero).
MAS:
Então, existe uma maneira de corrigir isso?
Tags calculator windows-7