A partir de uma comparação dos seus pinouts (imagem tirada de Overclock.net: GPU e conexões de energia da CPU ):
Em teoria, você não deveria conseguir encaixar o conector. Na imagem acima você pode ver que existem várias diferenças entre os pinos (arestas chanfradas nos pinos) que dificultariam a conexão de um conector EPS a um PCIe em uma placa gráfica, mas infelizmente não é o contrário . Isso é uma espécie de supervisão no projeto de conectores.
As pinagens são efetivamente opostas. Onde um PCIe tem as linhas de 12V em 1-4 (ignorando os pinos de sentido), o EPS tem em 5-8. O que você conseguiu efetivamente fazer é alternar entre 12V e terra. Definitivamente não é bom.
É provável que você tenha apagado alguns ou todos os reguladores de energia na placa-mãe, possivelmente com mais componentes também. Não há nada que você possa fazer sem muitos componentes de detecção e desmontagem de falhas.
Sua prancha está frita. Você precisa de um novo. É difícil saber se seu processador ou outros componentes estão fritos sem primeiro substituir a placa-mãe.