RDP (Área de Trabalho Remota) é, na verdade, um protocolo muito mais eficiente do que Protocolo do VNC, chamado RFB .
O VNC funciona, como você sugere, enviando uma imagem da área de trabalho pela rede. Existem algumas otimizações, como enviar apenas partes da tela que foram alteradas, mas é essencialmente isso.
O RDP, por outro lado, funciona enviando instruções sobre como desenhar a tela no computador cliente. Em vez de enviar uma imagem de uma janela, a máquina host envia uma descrição da janela para a máquina cliente e, em seguida, a máquina cliente é responsável por renderizar uma imagem e exibi-la. Quase todo o tempo, essas instruções são muito menos intensivas em largura de banda do que o protocolo do VNC. Além disso, como o computador cliente "entende" a imagem que criou para você, ele pode executar operações simples, como mover janelas sem precisar (a) enviar a entrada do mouse ao computador host, (b) aguardar o computador host a janela movida e (c) aguarde a resposta. Ele pode calcular e desenhar os resultados imediatamente.
O RDP também é integrado aos logons e sessões do Windows: quando você faz uma conexão de Área de Trabalho Remota, o Windows está criando uma nova sessão de logon para você ou conectando uma sessão existente à sua conexão RDP. Fazer o login e conectar a sessão é o que leva a maior parte do tempo inicial de conexão, mas depois disso, deve ser muito mais rápido. É assim que funciona o Terminal Services: cada usuário tem uma sessão independente em um computador, cuja exibição é enviada pela rede e processada remotamente, e nenhum deles pode ver o que o outro está fazendo. O VNC geralmente não tem noção de sessões de logon e sempre conecta você à sessão de console (para que você veja exatamente o que alguém fisicamente sentado no computador veria). Dependendo do que você está tentando alcançar, isso pode ser bom ou ruim.