Esse problema ocorre porque a sessão do VNC que você está usando não consegue carregar o gerenciador de exibição selecionado no momento.
Você pode resolver isso alterando o arquivo xstartup para usar um gerenciador de exibição alternativo que não requer aceleração de gráficos.
Há instruções sobre como configurar isso disponível aqui