Primeiro, instale os pacotes de idiomas em inglês.
sudo apt-get install language-pack-en language-pack-en-base manpages
Você precisa executar nano /etc/default/locale
e substituir as linhas francesas por:
LANG=en_US.UTF-8
LANGUAGE=en_US:en
Você pode remover o pacote de idioma alemão da seguinte maneira:
sudo apt-get remove language-pack-de language-pack-de-base manpages-de
Reinicie e você deve usar o inglês como padrão.