Não tendo nem a GPU nem a placa-mãe, não posso dizer com certeza se funcionará, mas posso dizer-lhe:
O tipo de memória em uma placa gráfica dedicada não está relacionado ao tipo de memória do sistema / processador, e se a placa-mãe tiver um slot PCI-E para a placa gráfica, eu geralmente esperaria que eles fossem compatíveis.
A memória gráfica é usada pela GPU e a memória do sistema é usada pela CPU.