Existe também uma boa ferramenta de limpeza que eu mesmo uso, chamada Ubuntu Tweak, ótima ferramenta. Para instalá-lo, faça:
sudo add-apt-repository ppa:tualatrix/ppa
Isto irá baixar o repositório PPA, então você pode entrar no Ubuntu Software Center e deixar o Software Center fazer toda a mágica. Ou você pode fazer tudo por linha de comando (que é o que eu prefiro) e usar esses comandos depois que o PPA for carregado em seu repositório:
sudo apt-get update
sudo apt-get install ubuntu-tweak
Abra o Dash, digite Ubuntu Tweak e abra o Ubuntu Tweak com um clique.