Só para você saber, se você tem um sistema que está na internet do jeito que está fazendo agora, pode ser hackeado. O RDP não é uma exceção e você está se expondo à Internet, que é repleta de muitas coisas horríveis que farão coisas terríveis em seu computador.
Para responder à sua pergunta, o que você está fazendo quando se conecta à VPN informa ao seu computador que o tráfego de ALL deve fluir pela VPN. Como tudo isso está tentando passar pela VPN, o tráfego RDP não pode retornar ao seu sistema, já que o seu roteador / firewall está bloqueando-o (isso é bom, já que agora ele vem de outro computador). Se você quiser se conectar remotamente e VPN ao seu sistema, sua melhor aposta seria desligar o sistema da Internet e mantê-lo atrás do firewall. Em segundo lugar, use um serviço de controle remoto (como o TeamViewer, ScreenConnect, Bomgar, LogMeIn ou algum outro serviço) para acessar o sistema. Quando você tiver uma configuração, você poderá fazer o login na área de trabalho e iniciar a VPN. Ele provavelmente irá desconectá-lo e travar o seu computador (isso é bom). Após alguns segundos / minutos, você poderá fazer login novamente na área de trabalho.