Eu tinha inicialmente verificado o arquivo host como SilverbackNet sugerido, mas em um servidor Windows 2008 R2 este é o arquivo padrão:
# localhost name resolution is handled within DNS itself.
# 127.0.0.1 localhost
# ::1 localhost
#
indica um comentário no arquivo host, portanto, todas as entradas são comentadas e a primeira linha é um pouco confusa. Então notei que havia duas entradas para o localhost que foram comentadas, então eu tentei descomentar o IPv4 e funcionou! Eu deveria ter tentado isso primeiro, mas fui expulso da primeira linha. Usando o arquivo de host abaixo ping o nome do computador ou localhost sempre retornará um endereço IPv4, que corrige o problema com o software de terceiros!
# localhost name resolution is handled within DNS itself.
# ::1 localhost
127.0.0.1 localhost
127.0.0.1 VPS-Web