Estou recebendo o mesmo erro ao executar uma GTX 970 e um i5-7600k. Não sei por que, mas por alguma razão os motoristas Nouveau não estão satisfeitos com meu novo hardware, embora a GTX 970 sempre tenha funcionado bem no passado para Live CDs no meu antigo sistema. Talvez a nova CPU tenha algo a ver com isso? Minhas antigas botas de instalação são boas porque já possuem drivers NVIDIA proprietários, mas o USB ao vivo recebe uma tela muito parecida com o que você está vendo.
A correção: Mude para seus gráficos integrados como o GPU principal e inicie lá. Certifique-se de desconectar todos os monitores da sua GPU. Por alguma razão, mesmo que eu configurei gráficos integrados como minha GPU principal usando um monitor secundário, os drivers Nouveau ainda detectaram meu primeiro monitor e fizeram com que a inicialização falhasse.
Se você planeja fazer uma nova instalação, certifique-se de inicializá-lo e instalar os drivers da NVIDIA antes de voltar para a sua placa NVIDIA.