Desculpe, não posso comentar ainda, mas o problema me parece que seu servidor VNC está configurado incorretamente.
Seguindo as etapas descritas na página XWvnc ArchWiki , no seu servidor, certifique-se de:
- Abra um terminal em sua sessão X e execute o servidor x11vnc usando:
$ x11vnc -display :0
- Supondo que você esteja usando o GDM, executando:
# x11vnc -display :0 -auth /var/lib/gdm/:0.Xauth
.
Não tenho certeza se o guia significa que você use o segundo em vez do primeiro. Parece que isso corrigirá possíveis problemas que você possa ter com a autenticação.
Basicamente, estou perguntando o que você tentou na página XWvnc ArchWiki .