Eu consegui fazer o compiz funcionar. Eu desinstalei o driver proprietário da nvidia (nvidia-current). agora com o nouveau, o glxinfo dá uma saída decente e diz que a renderização direta está habilitada (acaba falando sobre o chip intel). então eu vou para efeitos de desktop, e quando eu seleciono extra, ele diz instalar drivers proprietários nvidia, clico em cancelar, a tela pisca, mas o compiz agora está ativado