O problema é que o DVI normal tem sinal analógico e digital e os "conversores" baratos só fazem conversão mecânica.
O DVI-D é totalmente digital e você precisará de um conversor que faça a conversão analógica para digital e transforme o sinal VGA em sinal DVI. Eles parecem ser muito mais caros, mas eles existem. Pode ser mais barato apenas mudar a placa de vídeo ou monitorar o que eu vejo. Este foi o meu primeiro resultado de pesquisa para palavras-chave VGA TO DVI-D converter
. Você pode encontrar algo mais barato.
EDITAR: Na verdade, não tenho certeza se acertei sua pergunta ...
Você deve ser capaz de executar normalmente dois monitores com uma placa de vídeo com saída DVI-D e VGA (se a placa suportar isso e o que eu vi, a maioria faz isso).
A próxima parte do problema são os monitores. Eu não estou 100% claro sobre o tipo de entrada que eles têm.
Se for VGA, basta conectá-lo à porta VGA da placa.
Se for DVI, basta conectá-lo à porta DVI no cartão usando um cabo DVI-D.
Se o monitor tiver DVI-A, você precisará de um conversor VGA para DVI-A, como este um por exemplo e conecte o monitor à porta VGA.
Se a porta VGA já estiver preenchida, você precisará de um conversor DVI-D para VGA, como isso um. A mesma solução precisa ser usada se você tiver dois monitores VGA. Novamente, pode ser mais barato obter um monitor ou placa de vídeo adequada.