Você não pode colocar facilmente um cabo de alimentação PCIe de 8 pinos em um conector EPS de 12 pinos MB de 8 pinos, eles são codificados de forma diferente.
Ambos os cabos contêm apenas + 12V e linhas terrestres, devido a algumas decisões realmente infelizes feitas pelo PCI-SIG, as atribuições dos pinos são opostas entre si, o que significa que você estava dirigindo + 12V no terra das motherboards; veja a imagem abaixo.
Uma fonte de alimentação ATX é necessária para fornecer proteção contra curto-circuito:
An output short circuit is defined as any output impedance of less than 0.1 ohms. The power supply shall shut down and latch off for shorting the +3.3 VDC, +5 VDC, or +12 VDC rails to return or any other rail
O circuito regulador de tensão (também conhecido como módulo regulador de tensão) na placa-mãe tirou o 'peso' da polaridade invertida no plano terra. Quanta proteção esse circuito tem de um evento como esse varia de modelo para modelo - não há padrão. A boa notícia é que os componentes deste circuito são fáceis de solucionar em equipamentos elétricos domésticos (multímetro) e podem ser reparados. A má notícia é que, se você não puder fazer o reparo sozinho (precisa de habilidades sólidas de soldagem), o custo para obtê-lo será o mesmo preço que uma nova placa-mãe.
Veja este link para informações adicionais sobre circuito regulador de tensão das motherboards