Os problemas de conexão nos gateways VPN no Azure geralmente estão relacionados aos principais tempos de atualização e iniciam a atualização. É sempre melhor permitir que o Azure inicie a atualização conforme necessário.
Verifique se você está atendendo aos parâmetros mostrados em este link