Existem várias variáveis de ambiente para ajustar as configurações de localidade: LANG, LC_ALL, LC_COLLATE, LC_CTYPE, LC_MESSAGES, LC_MONETARY, LC_NUMERIC e LC_TIME (o que o LANGUAGE deve usar não sei). LANG é usado como fallback se nenhuma variável LC_ estiver configurada e LC_ALL for usado para sobrescrever todas elas. Como o LC_MESSAGES é usado para mensagens de texto, você deve definir esse para en_US.UTF-8, LANG para de_DE.UTF-8 e deixar o resto (especialmente LC_ALL) usado.