Você precisa alterar /etc/default/locale
. A maneira mais fácil é abrir Language Support e selecionar a aba Regional Formatos . Você provavelmente encontrará inglês (Reino Unido) pré-selecionado, pois é isso que você tem para seu próprio usuário. Para torná-lo padrão para novos usuários, basta clicar no botão Aplicar todo o sistema .