Não use o instalador no site. Isso requer que você mate o servidor X (a GUI basicamente) e execute tudo a partir do terminal. Você também precisa desinstalar nouveau
(o driver genérico para NVIDIA no Ubuntu), o que é uma dor.
Em vez disso, é melhor abrir o aplicativo Drivers adicionais e selecionar uma das opções proprietárias disponíveis. Para mais opções, adicione este PPA:
ppa:graphics-drivers/ppa
usando
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt-get update
(as opções para isso aparecerão como open-source
, embora não sejam)
Para mais detalhes: Problemas gráficos após / while Instalando o Ubuntu 16.04 / 16.10 com gráficos NVIDIA