valor errado da função atan2 no excel

Question

Estou tentando calcular o ângulo entre duas latitudes e longitudes, mas estou errando o resultado de atan2(X,Y) quando usado no Excel.

β = atan2(X,Y) = atan2(0.05967668696, -0.00681261948)

Deve ser 1.68radian (96.51 °), mas no excel está mostrando -0.113666736 (-6.512624235 °)

β = atan2(X,Y),

onde, X e Y são duas grandezas e podem ser calculadas como:

• X = cos θb * sin ∆L

• Y = cos θa * sin θb – sin θa * cos θb * cos ∆L

  Latitude / Longitude (1): (Lat1, Lon1) = 39,099912, -94,581213

  Latitude / Longitude (2): (Lat2, Lon2) = 38,627089, -90,200203

  ‘L’            be the longitude,
  ‘∆L=lon2-lon1’ be the difference of longitude,
  ‘θ’            be latitude,
  ‘β‘            be Bearing
  

Answer 1

1. Não há nada errado com a função atan2(X,Y) no Excel: o ponto que você especificou '(0.05967668696, -0.00681261948)' está no quarto quadrante, ou seja, seu ângulo é realmente '-6.51 °'.

2. Mas se você quiser calcular um valor 'absoluto' de ângulo entre dois pontos geográficos, você deve usar uma diferença absoluta entre coordenadas:

     β=ATAN2(ABS(0.05967668696), ABS(-0.00681261948))
   

3. Lembre-se de que, se esse cálculo estiver em uma esfera (Terra), será uma aproximação por causa do triângulo circular. Tudo bem para pequenos ângulos.