Existe uma boa razão para isso. Aero usa muita mistura alfa, que precisa de aceleração de hardware para ter desempenho. Mesmo sem uma placa gráfica dedicada, os gráficos internos podem processar as camadas muito mais rapidamente. Infelizmente, o que isso significa é que o buffer de tela é entregue ao chip gráfico e o sistema operacional nunca vê os quadros renderizados finais. Se eles estão sendo enviados para o monitor, tudo bem, mas o Aero depende, até certo ponto, da aceleração de hardware. Quando o VNC tenta rodar com o Aero, ele terá que eliminar parte da aceleração de hardware e forçar a CPU a fazer renderização, para que possa capturar o estado da tela. Isso infelizmente pode forçar o Aero a sair.
Eu trabalho para o RealVNC, e usamos um driver de espelhamento para ajudar a resolver isso, pegando os comandos de desenho antes que eles sejam enviados para o chip para composição e mantenha nosso próprio buffer. Eu sei que o UltraVNC também usa um driver espelhado de alguma forma, mas eu não examinei a implementação deles. Você poderia tentar o nosso! Eu suspeito que, se o desempenho for muito baixo, pode não haver uma maneira de forçar o Windows a fazer composições e misturas na CPU.