Eu nunca fiz nada assim, mas eu faria backup do Mac OS X e instalei o Ubuntu com criptografia e LVM, que é uma opção no instalador que também limpará o disco. Então você pode redimensionar o Ubuntu criptografado (que você pode pesquisar como fazer) para ter espaço para instalar o Mac OS X. Em seguida, reinicie o Mac e mantenha o alt na inicialização. Então você se conecta à internet. Em seguida, você verá uma opção de recuperação da Internet, na qual você clica e usa a restauração a partir do backup. Então você deve ter um dualboot. Eu acho.