Você se declarou claramente que seu aplicativo é de encadeamento único e limitado pelo desempenho de CPU de um único núcleo. Por definição, processadores multi-core e hyperthreading não ajudam. Adicionar um milhão de núcleos não fará um programa ser executado mais rapidamente quando ele puder usar apenas um núcleo.
A única maneira de melhorar o desempenho de aplicativos de núcleo único é obter uma CPU com núcleos mais rápidos. Existem duas maneiras de aumentar o desempenho do núcleo: melhor IPC e maior clockspeed.
Novas gerações de CPU têm melhor IPC. Processadores com clock mais alto têm ... velocidades mais altas. A única regra é, então, obter o processador de última geração com a maior velocidade de clock.
Na realidade, você ficaria melhor com um sistema iX core 1xQuad com uma CPU de 4Ghz do que com um Xeon de 2x Quad-core 3Ghz. Os Xeons serão várias gerações mais antigos, o que significa um IPC mais baixo e uma velocidade de relógio menor de 1 Ghz.