1) O VNC e o RDP são dois protocolos muito diferentes, apesar de serem usados para propósitos similares.
Com o VNC, o sistema remoto está basicamente enviando a saída pré-renderizada da placa de vídeo do sistema remoto em qualquer resolução em que esteja atualmente em execução. Com o RDP, o sistema remoto está simplesmente enviando informações lógicas sobre o que precisa ser desenhado na tela. Em seguida, o sistema renderiza essas informações usando a placa de vídeo local em qualquer resolução com a qual o cliente RDP tenha se conectado.
2) Dependendo do seu cliente VNC, pode haver opções para reduzir o display remoto para que ele caiba na sua resolução atual. Sua outra opção é realmente alterar a resolução do sistema remoto para corresponder à sua resolução local enquanto durar sua conexão.