Eu tive problemas semelhantes ao instalar no 11.10 (não sei se o 12.04 é suportado).
Para sair da GUI, use sudo service lightdm stop
(o Ubuntu agora usa o lightdm em vez do gdm).
Uma vez que você tenha saído da GUI, e antes de executar o script de instalação, certifique-se de descarregar completamente o módulo do kernel da nVidia. Para fazer isso, usei "dkms", mas não me lembro dos comandos usados.