Eu tenho medo que o núcleo do seu problema esteja muito relacionado ao uso do VGA. O problema é que a sinalização VGA é analógica. Basicamente, os sinais analógicos emitidos pela placa de vídeo na porta hte VGA servem para acionar as bobinas eletromagnéticas e ajustar a saída da arma de elétrons em um monitor antigo baseado em tubo. Esses monitores antigos não tinham uma grade discreta de pixels e raramente exibiam a exibição de ponta a ponta.
Com um LCD que não é um dispositivo analógico, ao usar VGA o circuito no monitor LCD tem que (basicamente eu estou simplificando os detalhes aqui dramaticamente) basicamente emular como um monitor CRT antigo trabalha para converter os sinais de entrada em dados para cada um dos pixels dos LCDs. Isso não é de forma alguma um processo perfeito e, às vezes, o circuito do LCD terá problemas para sincronizar com o início da linha de varredura do sinal VGA. Muitas vezes, os displays LCD com entradas analógicas terão um botão de "ajuste automático" que acionará um algoritmo de "reconfiguração / ressincronização" dentro do display. Eu recomendo que você verifique o manual do seu LCD para mais detalhes.
Esta situação embaraçosa é a razão pela qual as pessoas que podem ser encorajadas a mudar para DVI onde os dados de pixel são transmitidos da placa de vídeo para o monitor digitalmente.
Em seu tipo de situação, descobri que o problema geralmente pode ser resolvido alterando a resolução e a taxa de atualização usadas pela placa de vídeo. Por exemplo, em um console de texto do Linux, tente o seguinte comando:
sudo fbset -a 1280x1024-60
Se isso funcionar, então isso confirmaria que o seu LCD está com problemas para sincronizar com a saída da sua placa de vídeo.
Gostaria de encorajá-lo a prestar atenção ao aviso do driver NVIDIA Linux e desabilitar os drivers de buffer de quadro do console se você quiser usar o driver proprietário da NVIDIA. Se o suporte ao framebuffer for importante, recomendo que você considere usar o driver nouveau que, dada a idade da sua placa de vídeo, deve funcionar muito bem.
Boa sorte.