A resposta é muito dependente de como você está usando os servidores. Você deve gastar tempo tentando descobrir o que está limitando o desempenho em cada servidor. Você pode acompanhar estatísticas usando algo como New Relic ou Munin ou monitor.us (esgotou os links como um novo usuário) e descobre qual é o limite da CPU, qual é o limite de memória e qual é o limite de E / S.
Na minha experiência, seu servidor web será limitado pela CPU e seu servidor de banco de dados será disco IO e Memória ligado, então seria um pouco difícil, já que o novo servidor é melhor em ambos os aspectos. Do que foi dito, normalmente é mais fácil atualizar a memória do que o processador, então eu colocaria mais memória ram no servidor de banco de dados e colocaria o servidor web no novo.