Use xrandr para garantir que o novo modo possa caber no tamanho máximo do framebuffer
xrandr | grep maximum
Use gtf para criar uma linha de modo
gtf 1280 1024 59.9
(59,9 é a taxa de atualização) Adicione o novo modo usando xrandr
xrandr --newmode "1280x1024_59.90" ............
substitua os pontos acima (........) pelo que o comando gtf lhe dá depois que o modo é criado. Deve ser algo assim: 106.29 1440 1520 1672 1904 900 901 904 932 -Sync + Vsync
Adicione este novo modo adicionado à saída desejada (VGA / LVDS etc - VGA no seu caso)
xrandr --addmode VGA 1280x1024_59.90
Escolha o novo modo
xrandr --output VGA --mode 1280x1024_59.90
Veja uma pergunta semelhante: Não é possível ativar o driver intel 82845g / chipset gl (brookdaleg)
Apenas falando, isso também indica que a instalação do Lubuntu resolve o problema.
Para sua placa Nvidia : veja a solução: Exibir resolução com a NVIDIA