Depende da aplicação. Se o aplicativo é muito multithreaded, e você está recebendo 2 CPUs poderosas, então sim, 2 CPUs ajudarão você, caso contrário você provavelmente seria melhor obter um único CPU com mais núcleos. (Mais núcleos em uma CPU são praticamente a mesma coisa que múltiplas CPUs, exceto que são mais fáceis de trabalhar e mais baratas).
Uma ferramenta útil (eu acho, e generalizando) para julgar a CPU é o site "CPU Benchmark" - basta procurar as CPUs e comparar os números. Números mais altos = melhor desempenho. Se você tem 2 CPUs na máquina, apenas o dobro do número - Novamente, isso pressupõe que seu aplicativo pode aproveitar bem os threads / núcleos mulitiple, caso contrário, está apenas desperdiçando dinheiro. Mais uma vez, a sua milhagem varia um pouco, mas este site é um bom ponto de partida.