Sua melhor aposta é executar na resolução nativa do monitor e ajustar as configurações do Windows ClearType para melhorar a aparência do texto. E o que exatamente você quer dizer com embaçado? Você pode postar uma captura de tela?
UPDATE
A resolução nativa é de 720p (1280x720), já que você mencionou que é uma tela de 720p.
E os pixels são sempre quadrados, fisicamente.
Se você usar uma resolução de proporção de 4x3 na tela de 16: 9, ela aumentará a imagem, distorcendo-a OU mostrará duas barras pretas em ambos os lados.
O AMD HD7770 deve definitivamente produzir 720p; Portanto, defina a resolução como 720p, ajuste as configurações do ClearType e, se ainda assim não funcionar, poste uma captura de tela.
Embora isso realmente não importe, mas que interface você está usando? VGA / DVI / HDMI?