Você pode usar o seguinte comando para instalar um idioma específico:
sudo apt-get install language-support-xx
onde xx seria o código para o idioma que você deseja instalar.
Digamos, por exemplo, para o inglês que você usará
sudo apt-get install language-support-en
e para francês ou lituano você pode usar respectivamente:
sudo apt-get install language-support-fr
e
sudo apt-get install language-support-lt
Espero que isso resolva seu problema.