Você pode fazer essa funcionalidade combinando Caliber com Automator para fazer um serviço. Os serviços aparecerão no menu quando você clicar com o botão direito em um arquivo no Finder.
Uma dica se você montar isso sozinho é a conversão de livros do Caliber pode ser chamada a partir da linha de comando. Assim
/Applications/Calibre.app/Contents/MacOS/ebook-convert $1 ${1%.}.mobi
Este artigo pode ajudá-lo começou se você decidir construir isso por si mesmo. Desculpe, não conheço um aplicativo que faz o que você pergunta imediatamente.