O problema provavelmente se deve ao seu mapa de partições. Você não pode expandir as partições para cima no utilitário de disco; você só pode expandi-los para baixo.
Então, supondo que 10.8 estivesse no Mac para começar, essa seria sua partição de inicialização primária, disk0s2. Se você adicionou outra partição, provavelmente seria disk0s4 (s3 sendo reservado para a partição de recuperação). Você não pode expandir o disk0s4 para ultrapassar o disk0s2. Você teria que reparticionar sua unidade.
Em resumo, se você adicionou 10.9 ao 10.8 que já estava instalado e deseja usar 10.9, você terá que instalar 10.9 em cima de 10.8 (e então remover sua partição 10.9 para ter um disco inteiro novamente ), ou inicialize a partição de recuperação, reparticione sua unidade e, em seguida, use um instalador 10.9 em uma unidade externa para instalar o 10.9.