Eu tive um problema muito semelhante, quando recebi uma tela em branco ao inicializar de um Ubuntu 16.04 Live USB em uma GTX 1080, e encontrei minha resposta em outra pergunta: Ubuntu 16.04 + Nvidia Driver = tela em branco
Versão super curta: Adicione nomodeset às opções de inicialização e reinstale os drivers da NVIDIA.
Versão mais longa:
Provavelmente, CUDA instalou drivers NVIDIA que não funcionam com sua GPU. Supondo que você chegue ao menu GRUB na inicialização, pressione e para editar o comando de inicialização para o Ubuntu e, em seguida, adicione nomodeset às opções (ele normalmente tem quiet splash por padrão, então use nomodeset quiet splash , por exemplo) . Isso deve corrigir os gráficos, mas se não tentar adicionar nouveau.modeset=0 e nvidia.modeset=0 às opções também.
Depois de entrar em um terminal, você pode instalar os drivers corretos:
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt-get update
E, em seguida, sudo apt-get install nvidia-367 , supondo que você deseja os drivers mais recentes (até o momento desta publicação) ou apt-cache search nvidia para ver o que está disponível. Depois que os novos drivers estiverem instalados, você poderá reinicializar sem a opção nomodeset e tudo deverá funcionar.
Uma observação ao instalar o CUDA: Se você estiver reinstalando o CUDA, recomendo usar o método runfile e respondendo o NO quando ele solicitar a instalação de drivers , pois Suspeito que os drivers causaram o problema.