A resposta depende de alguns fatores, o que significa que é um sim e não é um tipo de resposta. Devido a como a questão é declarada, isso tornaria um não.
Mas vou esclarecer.
Existem alguns tipos diferentes de sockets: PCI, AGP e PCI-Express. Embora os dois primeiros já sejam antigos, ainda ocasionalmente encontro um PC antigo com um slot AGP. Obviamente, um cartão de vídeo AGP não caberá em uma interface PCI-Express e vice-versa.
Dito isto, o PCI-Express também possui seus próprios padrões: PCI-Express 1x, 2x, 4x, 8x, etc. Quanto maior o número, mais rápido ele pode ser executado. Embora as placas gráficas sejam compatíveis com versões anteriores, uma redução significativa de velocidade será notada nesses casos e, como tal, você deseja evitar isso.
Além disso, as placas gráficas mais potentes possuem conectores de energia ATX adicionais e, como tal, exigem uma fonte de alimentação ATX capaz com saída suficiente. No entanto, a fonte de alimentação não faz parte da placa principal, mas para ser completa, adicionei a informação independentemente.