Explique a diferença entre o tipo de dados real do SQL Server e a representação do Excel

0

O tipo de dados real no SQL Server é de precisão 7, mas às vezes o Excel mostra mais precisão do que isso e, às vezes, partes decimais completamente diferentes. Alguém pode por favor explicar estes resultados:

**Number Inserted | Displayed in SSMS | Displayed in Excel**
_________________________________________________________
12345678             1.234568E+07        12345678
1234567.1            1234567             1234567.125
1234567.5            1234568             1234567.5
1234567.45           1234568             1234567.5
1234567.59           1234568             1234567.625
1234567.69           1234568             1234567.75
1.12345678           1.123457            1.123456836
1.5123456            1.512346            1.512345552
90000000             9E+07               90000000
99999999             1E+08               100000000
    
por Graeme 30.10.2012 / 10:04

1 resposta

0

Simplesmente, a exibição do SSMS é formatada em 7 números significativos, com uma notação exponencial para números maiores que 10.000.000.

A exibição do Excel provavelmente exibe precisão dupla e, para essas finalidades (quase), os valores binários reais armazenados pelos números de "precisão 7".

    
por 30.10.2012 / 10:57