A opção "Instalar ao lado do Mac OS X" instala o Ubuntu no espaço livre (com o sigilo "não ocupado por uma partição") no disco rígido.
Você pode criar um espaço 'livre' usando o Utilitário de Disco no Mac OS X.
O Ubuntu particionará o espaço livre para ter uma partição para o Ubuntu, e uma partição 'swap' que o Ubuntu às vezes precisa para funcionar corretamente. (A partição swap provavelmente nunca será superior a 4 GB)