Usar sudo apt-get purge <package-name> removerá <package-name> e todo o seu arquivo de configuração que não estiver localizado em "Início" ( ~ ).
Você precisará remover config arquivos em seu diretório pessoal manualmente. Como esses arquivos estão ocultos, você terá que pressionar Ctrl + H para visualizá-los no Nautilus.
Uma boa referência para analisar: Qual é a maneira correta de remover completamente um aplicativo?