Como já foi mencionado, você só precisa conectar o que o cartão tem. Indo a partir da memória, acredito que a nvidia usa um único conector, enquanto a AMD usa 2. Se a outra placa funcionar, mas a sua nova não, é bastante seguro assumir que você tem uma placa defeituosa. Se você quiser ter certeza de escravizá-lo em outro pc, se você tiver um disponível, mas eu estou disposto a apostar que um retorno está em ordem.