Normalmente, o VPS não tem um ambiente de área de trabalho, portanto, é necessário instalar um a partir da ssh connection, instalar o VNC e, depois disso, você poderá usar um cliente VNC para se conectar à área de trabalho remota.
Lembre-se apenas de que os dados gráficos representam muito mais obstrução de largura de banda do que o texto. I.E. O VNC usará mais largura de banda do que apenas navegando na web. Além disso, qualquer conteúdo de mídia em sites não será muito bom em VNC, se eles jogarem.
E o seu ambiente de trabalho vai usar muita memória do seu VPS, então, em geral, não é uma boa ideia ter um VPS com um DE, mas se você realmente precisar, conecte-se via ssh e execute:
apt-get install ubuntu-desktop gdm vnc4server
Verifique também: