Exatidão decimal do Excel que excede secretamente 15 dígitos e quebra o VLOOKUP

Question

Estou fazendo um pouco de matemática usando essa fórmula

A1-MOD(A1+(Constants!$A$1/2),Constants!$A$1)

(Onde os valores na coluna A são decimais e o valor em Constants!$A$1 é um inteiro exato)

Em seguida, a correspondência em uma planilha auxiliar com valores inseridos exatamente com precisão até o décimo lugar.

VLOOKUP(B1,Data!$A:$B,2,FALSE)

Mas VLOOKUP está tratando meus valores de maneira inconsistente. Seu resultado (por causa deste post os valores são idênticos em ambas as colunas do parâmetro table_array ):

Deacordocom esta pergunta sobre a precisão numérica do Excel , ele suporta até 15 dígitos, então eu aumentei a precisão decimal apenas para ver o que era computação:

Quebrameusvaloresnacoluna"Banda" com ROUND(..., 2) fez com que funcionasse como esperado, mas por quê?

P.S. Observe que estou usando o Excel 2013.

    

Answer 1

Este vídeo tem uma ótima explicação sobre armazenamento binário e números de ponto flutuante. link

Depois disso, por favor, aceite que as imprecisões de ponto flutuante ocorrerão e arredondará os números se você precisar que eles sejam precisos.