Você deve experimentar gnome-tweak-tool ou unity-tweak-tool com base no gerenciador de área de trabalho que está usando. Você pode instalá-los por sudo apt-get install seguido por um dos pacotes mencionados acima.
Você também pode tentar o aplicativo chamado lxappearance .
Esses aplicativos permitem que você escolha fontes de todo o sistema. Eu não entendo por que você precisa excluir e nunca ter feito isso mudar fontes do sistema é muito fácil usá-los.
Além disso, se você quiser usar algumas novas fontes que não estão no sistema por padrão, crie uma pasta ~/.fonts .
mkdir ~/.fonts
Agora adicione os arquivos *.ttf para qualquer fonte que você baixar e, em seguida, basta escolher a forma de fonte do menu em qualquer um desses aplicativos.