Eu tive o mesmo problema. Quando eu conectei via VPN, ele não se conectaria através da versão desktop que ele fazia. Eu acesso um monte de servidores e meu PC de escritório em casa quando atualizei para a interface de usuário do RDP parou de funcionar. Apenas tive que adicionar o meu gateway padrão da VPN para as configurações no RDP e funcionou o tempo todo. Espero que isso funcione para você.