Você precisa criar uma partição para o Ubuntu primeiro. O método mais simples é usar o Utilitário de Disco para redimensionar a partição do Mac OS X e deixar o resto como 'Espaço Livre'. Quando você executar o instalador do Ubuntu, ele lhe dará a opção de instalar ao lado do Mac OS X e encontrará o 'Espaço Livre'.