Em uma nova instalação, obtenha os drivers Nvidia fornecidos pelo Ubuntu instalados e funcionando antes de fazer a instalação do CUDA. Após a instalação do cuda-repo-ubuntu1604-9-0-local_9.0.176-1_amd64.deb, instale o pacote Ubuntu cuda, que obtém o kit de ferramentas.
A partir do Painel / Configurações do Sistema, na seção Sistema, clique no ícone "Software e Atualizações" e verifique se, na guia "Software Ubuntu", os "Drivers proprietários para dispositivos (restritos)" estão selecionados, em seguida, na guia "Drivers adicionais", selecione o driver binário da Nvidia testado (primeiro?). Clique no botão "Aplicar alterações" nessa janela e, em seguida, reinicie o servidor X, ou simplesmente efetue o logout e login novamente. Verifique o driver em execução com o ícone "nvidia X server settings" no painel. Reinicie apenas para verificar novamente, e se ainda estiver executando o servidor Nvidia, e sem problemas de login (veja muitas soluções aqui para loops de login - basicamente limpar antigos arquivos .Xauthority ou .cache ou .config no seu diretório home) está tudo pronto para instalar o CUDA.