Tente novamente o CD de instalação do Mac OS, mas quando ele inicializar, escolha as opções avançadas e faça uma nova repartição da unidade (exclua partições existentes, crie uma nova partição com as configurações padrão). Isso deve permitir que você faça uma instalação limpa.
Obviamente, faça um backup dos seus dados antes de fazer isso.