Acho que você ainda não instalou seus drivers gráficos para sua placa nvidia. Instale-os a partir de Drivers Adicionais. e tente novamente para definir sua resolução
Digite o terminal comando: sudo nvidia-settings
Acabei de atualizar do Ubuntu 12.04 para o 12.10 e a resolução máxima do vídeo é de apenas 1024 x 768. Em 12.04, era de 1680 x 1060 e estava funcionando bem. Tenho um monitor Samsung SyncMaster 225BW e uma placa gráfica: GeForce GTX 550 Ti / PCIe / SSE2 em um processador Intel® Core ™ i7-2600K a 3.40GHz × 8 64 bits. Como obtenho minha resolução de volta?
Acho que você ainda não instalou seus drivers gráficos para sua placa nvidia. Instale-os a partir de Drivers Adicionais. e tente novamente para definir sua resolução
Digite o terminal comando: sudo nvidia-settings