Por causa do meu novo 660ti agora posso responder minha própria pergunta:
Sim, você pode usar o TwinView com 3 (talvez até 4) telas da mesma maneira que você usou com 2 telas em placas nvidia mais antigas (testet com 3 telas: 2xDVI + 1xHDMI).
É possível rodar 3 monitores em uma placa nvidia (série 600, 640/650/660/670) em linux / xorg com o driver nvidia de código fechado?
No momento, tenho um monitor 2 no meu sistema linux em uma configuração twinview e gostaria de adicionar um terceiro.
Em 22 de setembro de 2012, o site da Nvidia não lista o 650 como "suportado" no Linux. O 660ti é suportado pela versão do driver 304.43, lançada em 27 de agosto de 2012, então é por isso que o OP tem alegria:
Com sorte, o 650 estará no próximo lançamento do driver.
Sim, você pode, um cartão suporta 4 monitores com 2D e 3 monitores com 3D.
Até onde eu sei, você precisará usar o Xinerama, não pense que o twinview pode lidar com mais de duas telas.
Eu nunca fiz isso sozinho, mas eu li alguns posts de pessoas com até 6 monitores (em sistemas linux). Veja aqui , por exemplo.