Eu finalmente encontrei o problema em /usr/share/applications/mimeinfo.cache, com a seguinte entrada:
inode/directory=org.gnome.baobab.desktop;nemo.desktop;
alterando de volta para:
inode/directory=nemo.desktop;
resolveu o problema.
É o comportamento do Google Chrome e a resposta a Alterar o Chromium inicia automaticamente o Nautilus com o comando Mostrar na pasta que me leva à solução.
EDIT: /usr/share/applications/mimeinfo.cache
é regenerado de .desktop
arquivos presentes na pasta /usr/share/applications/
. O erro inicial está em org.gnome.baobab.desktop e reaparece toda vez que mimeinfo.cache é regenerado. Não está claro como corrigir isso.