Você precisa ter o driver nVidia mais recente instalado e configurado corretamente.
Se isso não funcionar, você pode hackear seu xorg.conf para forçar a resolução mais alta (mas esteja ciente que se os drivers que você instalou não suportarem a resolução, você será forçado a consertar seu xorg.conf através do console):
É necessário forçar a resolução no xorg.conf - Fóruns do Ubuntu