Este é um CRT ou um LCD? Você está usando o conector SVGA, não o DVI, certo? Se este é um LCD e tem um conector DVI, você deve usar isso em vez de SVGA. Seu monitor tem um botão que exibe a tela de status na tela que informa a resolução e a frequência em que ele está sendo executado? Está funcionando a 60 Hz ou 70 Hz? E quanto a 800x600?
Isso aconteceu comigo uma vez quando usei uma placa sintonizadora de TV a cabo porque havia um sinal AC de 48 volts 60 Hz na linha, o que causou uma pequena ondulação de 60 Hz no plano de terra. Se o monitor estiver funcionando a 70 Hz, ele ajusta uma batida de 10 Hz que embaralha o sinal de atualização horizontal e faz com que as bordas do monitor oscilem. Executar o monitor a 60 Hz parou a oscilação, mas ainda deixou as bordas irritantemente flexionadas. O conector DVI deve estar imune a isso.