Depois de mudar para os terminais virtuais em Controle + Alt + F1 para F6 você sempre pode voltar pressionando Control + Alt + F8 .
É muito estranho que sua configuração tenha mudado permanentemente apenas mudando para o terminal virtual. Tem certeza de que não fez mais nada?
Se você instalou o driver proprietário da Nvidia, provavelmente parará de usá-lo se mover /etc/X11/xorg.conf para o arquivo /etc/X11/xorg.conf.nvidia.old. O Ubuntu deve usar autodetect e usar o driver nouveau (que eu acho que funciona, já que funcionou no começo).
Você pode alternativamente tentar configurar sua placa nvidia usando nvidia-xsettings, é uma ferramenta que vem com o driver.
Você também pode tentar inserir um ModeLine no seu x.org. Eu sugeriria as outras opções primeiro. Aqui está um exemplo de modeline que pode funcionar com o seu monitor:
# 1280x800 59.81 Hz (CVT 1.02MA) hsync: 49.70 kHz; pclk: 83.50 MHz
Modeline "1280x800_60.00" 83.50 1280 1352 1480 1680 800 803 809 831 -hsync +vsync
Tente ler esta seção primeiro: link
Se funcionar, você pode adicionar a modeline permanentemente como descrito na próxima seção no link.