Por que esse cálculo simples do Excel não é zero?

2

É supostamente zero, mas por alguma razão o resultado produz uma série peculiar de dígitos no final.

Além disso, aqui está o .xlsx dele: http://83.212.111.36/Book1.xlsx

    
por j riv 06.04.2013 / 12:43

2 respostas

2

Auto-postagem: é uma limitação documentada da aritmética de ponto flutuante: link

O IMO deveria estar alertando mais visivelmente quando os resultados podem ser tão descaradamente errôneos para não serem considerados um bug, mas de qualquer forma.

Uma solução alternativa é usar round ().

    
por 06.04.2013 / 13:07
6

Isso acontece devido à precisão limitada da representação de números de ponto flutuante em computadores e não pode ser corrigido porque é um problema intrínseco do modo como os números são representados em um computador. Pode haver soluções alternativas, como round () ou uma implementação inteligente das fórmulas para reduzir as propagações de erros.

O Excel usa representação de ponto flutuante de 8 bytes (64 bits), o que significa que pode alcançar uma precisão máxima de cerca de 10 ^ -15. A imprecisão pode se espalhar pelas etapas de um cálculo.

Sugiro que você leia este artigo na Wikipedia que investiga esse tópico.

    
por 06.04.2013 / 13:11