sudo apt-get purge <application> ou sudo apt-get remove --purge <application> são típicos de pacotes normalmente instalados.
Acredito que purge exclua a configuração em todo o sistema, mas não a configuração específica do usuário (por exemplo, arquivos de configuração do diretório inicial) para o aplicativo associado.
Pode haver arquivos de configuração em seu diretório pessoal, por exemplo, em .config ou .local .
Você provavelmente achará mais fácil executar sudo updatedb e, em seguida, executar locate <packagename> para listar os locais dos arquivos restantes. Você pode grep saída restante e excluir o que resta.