Basta fazer:
sudo apt-get remove o ubuntu-gnome-desktop gnome-shell gdm
e gnome shell deve ser removido (eu tinha que dizer isso assim). Não se preocupe, a unidade funcionará bem.
Caso você queira desinstalar todo o software desnecessário, o gnome-ubnutu instala o check-out: Remove o ubuntu-gnome -desktop?
Editar1: para remover o flashback do gnome, faça:
sudo apt-get remove o gnome-session-flashback