Primeiro, verifique se o ISO que você baixou não está corrompido. Na linha de comando do Mac OS X, você pode executar o comando MD5 para obter a soma de verificação da imagem do disco:
md5 /path/to/image/ubuntu-12.04.2-server-amd64.iso
Você pode comparar o resultado do comando com o resultado esperado listado aqui: link
Se a sua imagem está correta, e você ainda está tendo problemas, provavelmente é porque o ubuntu tem feito imagens de disco recentemente usando um novo formato de arquivo hibridizado que não é legal com o sistema operacional Mac OS X. Alguns usuários encontraram operações de linha de comando que permitirão que eles reconstruam o ISO para o Mac OS X, mas ainda acho um método à prova de balas. Tente sua sorte começando aqui: