Seria mais sensato usar cabos DVI e converter para VGA (a única entrada que meus monitores podem fazer) logo antes do monitor?
Você não está realmente convertendo nada com essa configuração. Aquele pequeno adaptador que você está usando para "converter" DVI para VGA apenas extrai os pinos VGA que já estão fora da sua porta DVI. De acordo com isso , você está usando um conector DVI-I da sua placa de vídeo.
Como seus monitores só recebem um sinal VGA, você não tem opções aqui. A menos que você queira encontrar algum dispositivo horrível para converter um DVI-D (na verdade digital) para analógico para você entre sua placa de vídeo e seu monitor. Dica: Isso é uma droga, a placa de vídeo que faz a conversão é tão boa quanto parece.
A única coisa que você pode fazer para melhorar a qualidade a partir desse ponto é encontrar cabos melhores (e mais curtos). Mas, se parece bom, então você não precisa gastar mais tempo com isso.