Desde que você tenha instalado os drivers proprietários corretamente, o arquivo para desabilitar o nouveau (o driver Nvidia de código aberto incluído no Ubuntu) está em
/etc/modprobe.d/nvidia-blacklists-nouveau.conf
ou no seu sistema, pode ser
/etc/modprobe.d/blacklist-nouveau.conf
A linha que desativa nouveau é
blacklist nouveau
No entanto, você também pode precisar / ter as seguintes linhas:
blacklist lbm-nouveau
options nouveau modeset=0
alias nouveau off
alias lbm-nouveau off
Remover essas linhas deve permitir que o nouveau seja executado.
Agora que respondi à sua pergunta, darei alguns conselhos: não faça isso . Há uma chance muito pequena de você conseguir que a GUI funcione se você reativar o nouveau enquanto tiver os drivers proprietários instalados. Eles não são projetados para serem executados lado a lado. Além disso, não consigo pensar em nenhuma situação em que você precise usar o nouveau e não o driver proprietário. Qualquer situação em que o nouveau é executado, o driver proprietário também deve - e o driver proprietário funcionará em todas as áreas que o nouveau não possui.
Não sei ao certo o que você lembra, mas minha recomendação pessoal é que, se você jogar algum jogo ou fizer algo com gráficos, basta usar o driver proprietário. Você vai economizar muita dor de cabeça e tempo.