Aqui está um começo:
De um shell, tente usar o xdg-open em um diretório:
$ xdg-open ~/Downloads
Se isso não reproduzir o problema, o firefox está usando algum outro mecanismo para determinar o aplicativo a ser usado.
Podemos descobrir qual programa é definido como padrão assim:
$ xdg-mime query filetype ~/Downloads
inode/directory
$ xdg-mime query default inode/directory
dolphin.desktop
E podemos definir o padrão como:
$ xdg-mime default dolphin.desktop inode/directory