Aqui está um link para outra discussão sobre apt-get autoremove
.
Da minha experiência, é melhor simplesmente desabilitar o Gnome do que removê-lo, se você quiser começar a usá-lo como um servidor. O Gnome instala vários drivers e softwares que você usaria e, se desinstalar o Gnome, esses pacotes precisam ser adicionados manualmente e causar muita dor de cabeça.