Este é um problema conhecido que já foi corrigido e mesclado em mestre do nautilus em 13 de fevereiro de 2018:
If archive decompression fails due to missing support, Nautilus tries to launch the default application for the file type, which results in an infinite loop in cases where Nautilus is the default application. This commit removes that code and makes an application chooser always appear with a heading to inform the user.
Embora essa correção impeça o Nautilus de travar / usar toda a CPU, ele não adicionará suporte ao 7z no Nautilus.