Verifique o seguinte:
- O Windows está configurado para permitir a área de trabalho remota (Propriedades do sistema)
- O firewall do Windows está permitindo conexões de área de trabalho remota
- Seu sistema operacional host está permitindo conexões de área de trabalho remota por meio do firewall
Você tem ferramentas VMWare instaladas? Você pode fazer ping nos dois sentidos (host para adivinhar e vice-versa)?
AFAIK, não é necessário alterar nada no arquivo .vmx para permitir conexões RDP, contanto que sua conexão de rede esteja em ponte.