Eu tentaria uma combinação cliente / servidor VNC diferente ou pelo menos procuraria nas configurações do servidor:
FreeNX
Outra opção possível seria o servidor FreeNX / NX. Essa opção é uma plataforma cruzada rápida, segura e disponível.
Até o momento, não há um servidor para o OSX, mas há um cliente.