MOD do Operador do Excel Mod (0.9,0.3)

0

A função MOD no Excel deve retornar o Restabelecimento do Módulo no Excel

Eu acredito que a função = MOD (0.9.0.3) deve dar 0, já que basicamente 0.3 * 3 é 0.9

Mas dá 5.55112E-17.

Quaisquer sugestões para o que está errado.

    
por Shorn Jacob 10.07.2013 / 06:55

2 respostas

0

O Excel usa Visual Basic em sua programação. Portanto, a Microsoft refere-se à operação mod como

Floating-point Imprecision
When you work with floating-point numbers, keep in mind that they do not always have a precise representation in memory. This could lead to unexpected results from certain operations, such as value comparison and the Mod operator.

    
por 10.07.2013 / 07:07
-1

Parece ser um erro de ponto flutuante no Excel

link

    
por 05.08.2013 / 07:08