Ele deve funcionar, mas pode não funcionar em velocidade máxima.
Ainda assim será melhor do que a sua GeForce 8600 GT.
Além disso, certifique-se de conectá-lo à sua PSU.
A principal diferença entre o PCIe 2.0 e o 1.1 em relação à placa que você está recebendo é a energia extra do slot para o cartão. 2.0 tem o dobro do poder.
O PCIe 2.0 oferece 150W. Compare isso com o 75W PCIe 1.1 dá. 2.0 também permite o gerenciamento de energia através do BIOS.
Eu não acredito que sua placa usará toda a largura de banda do antigo slot PCIe, mas posso estar errado.
Aqui é uma discussão no fórum sobre um problema semelhante, embora eles estivessem falando sobre cartões diferentes .