Be any noticeable difference?
Na maioria dos casos: Não.
O PCI-e v3 pode ser duas vezes mais rápido que o PCI-e v2, mas a maioria das placas não tem largura de banda limitada. Portanto, diminuir a largura de banda tem apenas uma pequena penalidade de desempenho (4% -ish).
Existem exceções para isso. Por exemplo. ao usar GPCPU / OpenCL, onde a baixa latência do PCI-e v3 ajuda. Ou quando você estiver usando resoluções extremas (por exemplo, 5760x1920) e configurações altas em jogos. Mas na maioria dos casos não haverá diferença perceptível.
Would buying a decent video card mean't for PCIE 3.0 (GTX 660) be a waste of money versus buying another one that is PCIE 2.0 ?
Somente se a placa com capacidade para v3 for mais cara do que uma placa com desempenho igual que usa PCI-e v2 e se você não pretende manter a placa ao comprar o próximo computador.
Disclaimer: Tudo isso pressupõe que você use um slot x16. Se você colocar o cartão em slots x4 ou x1, a diferença de velocidade entre v2 e v3 será mais pronunciada.