Instale unrar para abrir e extrair arquivos rar.
- Abra o terminal com ctrl + alt + t
- Executar
sudo apt install unrar
Agora o file-roller deve abrir e extrair arquivos rar sem erros.
Se você não pode instalar o unrar, você precisa ativar o repositório multiverse; mas, presumo que você os tenha ativado como estão por padrão.