Você provavelmente irá com um PCI-Ex16, já que é onde a maioria das placas gráficas faz interface. Você pode querer olhar para uma placa-mãe que possui gráficos integrados DVI e VGA. Algo como um Sandy Bridge Core-i5. Você pode colocar dois monitores enquanto obtém apenas uma placa de vídeo que acionará os outros dois monitores.
Atualmente, estou fazendo uma configuração semelhante, onde tenho uma ATI Radeon HD 6970 com 3 monitores conectados a ela e tenho um quarto monitor no meu controlador de gráficos integrados (música, navegadores da Web, nada intensivo).
Eles fazem alguns adaptadores gráficos PCI-Ex1, mas geralmente menos comuns.