Consegui resolver o problema, por isso estou postando para qualquer pessoa que possa ter o mesmo problema.
Apesar de PCI-E ser compatível, houve um problema com o meu modelo de placa-mãe (Intel DP35DP), tornando-o incompatível com a placa de vídeo, mesmo depois de atualizar o BIOS.Minha solução foi comprar uma nova placa-mãe, e isso resolveu o problema completamente.