Tradicionalmente, na minha experiência, problemas como esse são sempre causados por três coisas:
- Calor
- Potência
- Drivers
Você já disse que 1 não foi um problema. Eu não ficaria surpreso se os drivers Win7 da NVidia ainda não estivessem 100% (seja por causa dos drivers ou do próprio Win 7), mas eu também olharia para a sua PSU. Eu não sei os requisitos de energia de um 260GTX, mas você pode querer verificar se a sua PSU pode suportar 2 desses cartões.