Resposta curta - você pode instalar qualquer gerenciador de arquivos que quiser, mas não será o gerenciador de arquivos padrão. Pessoalmente, eu tenho o Dolphin instalado, mas o Nautilus ainda é padrão e sempre que eu digo ao firefox para abrir um arquivo baixado na pasta, ele é aberto com o Nautilus.
Se você quiser alterar o gerenciador de arquivos padrão, consulte esta postagem, apenas certifique-se de ajustar adequadamente (desde este post é para tornar o Dolphin um gerenciador de arquivos padrão)