Uma maneira fácil de descartar problemas de software é usar um Ubuntu ou Fedora LiveCD. Uma distro moderna não deve ter problemas com a configuração do modo básico em uma placa nvidia, usando o driver nouveau
de código-fonte aberto.
É definitivamente possível que o monitor seja o problema. Os monitores contêm um pequeno chip de memória EEPROM que relata as informações do EDID , informando ao computador quais modos eles suportam. A comunicação com esse chip acontece através de seu próprio par de fios, portanto, se houver um problema no cabo ou no conector, é bem possível que você pare de obter informações do EDID mesmo que o monitor funcione bem. Você pode ter encontrado uma opção para substituir essa detecção no Windows.
A saída completa de xrandr --prop
deve mostrar as informações brutas do EDID do seu monitor, se tudo estiver funcionando. Se estiver sendo detectado incorretamente, é possível adicionar modos manualmente e alternar para eles. O nouveau Wiki tem algumas dicas de solução de problemas sobre esse problema que fornecem uma breve visão geral de como adicionar modos manualmente.
Editar:
Seu Xorg.0.log
confirma que isso ocorre porque você não está obtendo informações EDID do monitor, portanto, o driver está retornando a um intervalo de resoluções padrão seguro que supõe que seu monitor possa suportar. Tente trocar o cabo do monitor, se possível. Eu suponho que o driver original (que lhe deu 1024x768) tem padrões um pouco mais liberais do que o driver Nvidia reinstalado (que lhe deu 640x480). De qualquer forma, parece que você precisará de um arquivo de configuração do Xorg para informar ao driver do que o seu monitor é capaz, se você não puder consertar a detecção do EDID.
Um /etc/X11/xorg.conf
básico com essa informação, se você ainda não tiver uma, seria parecido com isso. Isso define uma ampla gama de frequências de sincronização horizontal e vertical suportadas, o que deve permitir que basicamente qualquer modo funcione. Você pode ajustá-los para corresponder às especificações do seu monitor.
Section "Device"
Identifier "Configured Video Device"
EndSection
Section "Monitor"
Identifier "Configured Monitor"
HorizSync 30 - 120
VertRefresh 50 - 160
EndSection
Section "Screen"
Identifier "Default Screen"
Monitor "Configured Monitor"
Device "Configured Video Device"
EndSection