Funcionaria absolutamente . Sua placa de vídeo mais frequentemente do que não usa um tipo diferente de memória RAM (GDDRx) do seu sistema de qualquer maneira.
A DDR3 é uma alternativa de menor desempenho (mas de funcionamento mais frio) para GDDR4 / 5 (ou vários outros números) usada em cartões passivamente resfriados ou para cortar custos. O DDR3, neste caso, é usado pela sua GPU e não pela sua placa de vídeo e funcionaria.
Estou executando uma gforce 450 varient que usa DDR3 em um sistema mais antigo com ram ddr2 na placa principal