Agora que você está inicializando com nouveau.modeset=0 , é necessário instalar alguns drivers gráficos funcionais.
Abra o aplicativo Drivers adicionais pesquisando-o e deixe-o digitalizar. Quando algumas opções aparecerem, escolha a versão mais recente do driver que termina com (proprietary) e clique no botão Aplicar para instalar o driver.
Reinicie após a instalação. Você não precisará mais usar a bandeira nouveau.modeset=0 e seu brilho deve funcionar.