Acho que o Nautilus está procurando aplicativos em /usr/share/applications e ~./local/share/applications e lista apenas os aplicativos que correspondem ao tipo de arquivo mime. Você deve tentar criar um lançador ( .desktop file) para o seu programa se quiser vê-lo nessa lista. Certifique-se de que seu lançador inclua o tipo MIME específico para seus arquivos ( text/plain e text/x-markdown vêm à mente, mas você pode executar file --mime-type myfile.md ou gvfs-info -a standard::content-type myfile.md e verificar a saída).