Você precisa usar uma placa de vídeo adicional para fazer a configuração do monitor triplo funcionar. Além disso, se você quisesse usar SLI / Crossfire nesta configuração, você teria que verificar o site da Nvidia para ver se três monitores são suportados (por exemplo, eu tinha 2 x 8800 GTs em SLI, e tive que desabilitar SLI para obter monitores triplos para trabalhar - isso faz funcionar com algumas placas Nvidia mais novas, no entanto). Veja esta página para mais detalhes .
Usando duas placas de vídeo em não-SLI é uma história completamente diferente, e bastante possível com o 8600 GT que você mencionou. Minha recomendação é usar seu monitor central como seu monitor "principal" (e ter a aceleração de hardware do monitor 460 GTX) e conectar os outros dois monitores ao 8600 GT. Dessa forma, os aplicativos 3D que saem para o seu monitor principal não sofrerão um impacto no desempenho (os que estão sendo executados nos monitores adicionais serão - você pode querer colocar um deles de volta no 460 GTX principal se precisar de algo mais acelerado por hardware).
O requisito principal do site da Nvidia para usar uma placa de vídeo adicional para acionar um monitor adicional é:
Additional monitors (up to 6 monitors total enabled) may be enabled by using either a motherboard GPU and/or a PhysX capable graphics card (GeForce 8 series or higher with at least 256MB of memory) that does not have the same GPU as those that are SLI enabled. More information regarding multi-monitor in SLI can be found here.
As informações acima se aplicam ou não ao uso do SLI.