Consegui resolver meus problemas.
Primeiro eu tive que desinstalar grupos antigos e desnecessários com os comandos
yum grouplist
para encontrá-los e remover yum groups remove "enter group name"
então eu fiz uma instalação limpa do GNOME com yum -y groups install "GNOME Desktop"
quando a instalação foi concluída eu corro uma vez startx
e a área de trabalho apareceu no meu VNC-Viewer
lembre-se de que você provavelmente também mantém seu VNC-Server enquanto desinstala grupos desnecessários, quando não é fornecido pelo seu VPS-Host, como no meu caso