Existem três GPUs chamadas "GT 730" . É provável que você tenha a variante que suporta apenas dois monitores de cada vez (apesar de ter três conectores).
Outra possibilidade, que não consegui confirmar, é que sua placa tem apenas um único RAMDAC e, portanto, só pode controlar um único monitor analógico de cada vez. Isso não deve ser um problema, porém, como HDMI não carrega sinais analógicos, portanto, um conversor HDMI-para-VGA deve fornecer seu próprio DAC.