Dígito extra estranho do Excel

2

No Excel 2007/2010, obtenho esse comportamento estranho:

Formula in cell: =2.6+1.4+4.62-8.2
Result in cell: 0.420000000000002000

Estranho extra '2' sobre 14DP. Alguém pode explicar por que isso está acontecendo, por favor?

    
por j0nr 18.05.2015 / 18:18

1 resposta

1

Como mencionado nos comentários, isso não é um bug. É devido à imprecisão inevitável da aritmética de ponto flutuante devido ao número finito de bits disponíveis para armazenar valores, resultando em uma representação aproximada que se torna aparente nos dígitos mais significativos que você escolhe para exibir.

Aqui estão alguns artigos úteis para você:

por 19.05.2015 / 04:16