Você está certo de que o de 256MB é o caminho a percorrer, já que o DVI oferece um link digital puro e você não precisa pensar em ajustar os parâmetros nas telas. Você também está certo de que é improvável que o carneiro adicional ajude muito.
Em geral, se a GPU é boa o suficiente, a RAM geralmente não é um grande problema. Se a GPU não for boa, nenhuma quantidade de RAM salvará.
No entanto, para o último bit, Win7 GPU acceleration, for example? But with a quad-core, who cares?
, acredito, para a maioria dos trabalhos acelerados por GPU, até mesmo o pior GPU acelerado da geração atual oferecerá melhor desempenho que um processador quad-core fornecerá:)