Extraído de help.ubuntu.com
The LANGUAGE priority list
The "LANGUAGE" environment variable, which is set by the GUIs more often than not on
Ubuntu desktops, controls language for message and menu display for GNU compatible
applications. For such applications it overrides whatever locale names are set in
"LANG" and "LC_MESSAGES".
Unlike "LANG" and "LC_*", "LANGUAGE" should not be assigned a complete locale name
including the encoding part (e.g. ".UTF-8"). Instead "LANGUAGE" should contain a
colon separated priority list of language codes, for instance "es:de:en". A single
language code is also correct.
Tão lame quanto uma resposta de link é, this é provavelmente o que você quer.
A postagem mencionada no link acima explica que, se você quiser alterar o idioma exibido na linha de comando, será necessário definir LANG e LANGUAGE de acordo com /etc/default/locale ou ~/.pam_environment .
Como você já tentou definir LANGUAGE em /etc/default/locale , eu tentei defini-lo em ~/.pam_environment , pois esse é um arquivo de configuração do usuário e seu conteúdo deve substituir qualquer coisa definida no ambiente global.
EDITAR:
Eu fui em frente e tentei duplicar o problema que você descreveu definindo LANGUAGE em /etc/default/locale para "en:ru:en" efetuando logout e, em seguida, efetuando login novamente. Funcionou. As mensagens de erro foram exibidas em russo, pelo menos para a conta raiz (que era a conta em que eu estava testando isso). Alterar o valor de LANGUAGE para "en" corrigiu.