Finalmente, encontrei a solução.
A sessão do Gnome parece não funcionar nos servidores VNC X, mas um Xvfb funcionará. A idéia é criar um Xvfb para a sessão e usar x11vnc para o VNC:
Xvfb :1 -screen 0 1280x720x24
Em seguida, crie o ambiente GNOME:
DISPLAY=:1 gnome-shell --replace
Finalmente, use x11vnc
para criar um servidor VNC para Xvfb:
x11vnc -display :1