Erro de arredondamento da função mod do Excel

1

Estou testando múltiplos de 0,4 no Excel.

=MOD(1.2;0.4)

retorna 0,4, quando deve retornar zero.

    
por m3dl 17.06.2016 / 21:44

1 resposta

4

O motivo é que o Excel trabalha internamente com números de ponto flutuante.

Isso significa que o 0,4 é representado internamente como uma seqüência de bits à direita do ponto decimal, que representa 1/2, 1/4, 1/8, 1/16, etc., até cerca de 1 / ( 2 ^ 31).

Portanto, qualquer coisa que não seja um inteiro (e não é exatamente representável com as frações listadas acima) tem um erro de arredondamento associado a ele; isso se aplica a cada passo de um cálculo também.

MOD(*,0.4) é apenas um exemplo para mostrar isso (um pouco óbvio, eu lhe dou isso).

Basicamente, você não pode usar com segurança MOD com não-inteiros como o segundo parâmetro . Você precisa multiplicar e dividir seus dados de acordo se for uma opção (como =MOD(10*x;10*m)/10 ), ou codificar a fórmula do próprio MOD: =x-INT(x/m)*m .

    
por 17.06.2016 / 21:55