Eu tive o mesmo problema até ter incluído o driver nouveau na lista negra link
Configuração: i7 2670, Nvidia GTX 570, 1920X1080, 17,3 ", HDD 750 GB, RAM 12 GB, a tentar instalar no Windows 7, 64 bits. Utilizou o Ubuntu de 64 bits para instalação, tanto 12.04 como 11.04, nenhum funcionou, em 12 , Problema de exibição e 11 congela, ambos após a instalação, durante a inicialização.