Ping não é uma ferramenta de teste de sites. O fato de você poder fazer ping no servidor não significa quase nada em relação ao motivo pelo qual você não pode acessar o site no servidor. Se ping for a única ferramenta em seu arsenal, vai demorar muito tempo para resolver este problema.
Ótimo ... você pode fazer ping no servidor para confirmar a conectividade da rede ... mas você já sabia disso quando se conectou ao site internamente.
Como você está tentando se conectar ao site externamente? Por FQDN ou por endereço IP? Se por FQDN, tente por endereço IP para descartar DNS como o problema.
Tem certeza de que o firewall está configurado corretamente para encaminhar conexões externas para o endereço IP público para o endereço IP interno do servidor para HTTP e HTTPS?