Se você não tiver problemas com o uso de software proprietário, recomendo usar os drivers que a Nvidia fornece para o GNU / Linux. Eles geralmente estão a par com suas contrapartes do Windows.
Eu tentei usar nouveau no meu MacBook Pro algum tempo atrás, mas encontrei muitos problemas (cintilação e outros artefatos gráficos). Eu finalmente desisti e recorri ao uso dos drivers da Nvidia.