É mais provável que seja devido a um cabo defeituoso, de modo que o SO não possa ler as informações sobre o monitor, portanto, não reconhece sua resolução nativa. Não está relacionado a analógico ou digital porque o cabo VGA é capaz de transferir imagens de até 2048 × 1536 @ 85Hz. Eu já vi isso muitas vezes no computador dos meus amigos e depois de substituí-lo por um cabo melhor, o problema está resolvido.
Outra maneira é criar uma resolução personalizada para você. Muitos drivers da placa gráfica suportam isso. É um pouco complicado, pois há muitos parâmetros como clock de pixel, taxa de atualização ... para cuidar.