Como não consegui encontrar uma resposta em nenhum lugar sobre como isso é feito, fiz algumas experiências, incluindo a inicialização de USBs ao vivo de Cinnamon e Mint. Ambos não tinham a opção de abrir arquivos epub, mas tinham essa opção para outros tipos de arquivos desconhecidos ou conhecidos. Eu tentei editar mimeTypes.rdf no diretório de perfil para remover qualquer tipo com epub, mas isso não funcionou para mim, embora o arquivo não tenha sido fácil de editar, por isso não posso ter certeza de que o fiz corretamente.
Como último recurso, voltei para minha antiga partição Ubuntu e copiei seu perfil do Firefox para o perfil Mint e carreguei esse perfil no Firefox. E eis que eu tinha a opção esperada para abrir ou baixar o arquivo.
Então, algo foi adicionado a esse perfil para ativar essa opção. Eu vejo um arquivo prefs.js que pode ter a opção, ou talvez uma configuração em mimeTypes.rdf, que não é fácil comparar agora que eu editei o antigo.
Como meu problema está resolvido, minha prioridade é descobrir o porquê e como isso é muito reduzido.