Consegui fazer isso funcionar instalando o Vine Server VNC em vez de usar o servidor VNC incorporado no OS X Na GUI do Vine Server, eu especifiquei os seguintes argumentos de linha de comando
-noupdates -deferupdate 200
Quando eu conecto com meu cliente VNC (UltraVNC), agora eu basicamente obtenho uma janela em branco gigante como minha superfície de entrada, e no OS X vejo menos de 1% de utilização da CPU do servidor Vine. Sucesso!