Essa é uma pergunta muito carregada ... eu odeio dizer. Existem várias variáveis que você não explicou que poderiam afetar a resposta final.
Que tipo de P4? (tipo de socket? idade? etc ...) Qual sistema operacional? Qual servidor web? Qual servidor de banco de dados? Qualquer HTTPS? Você está preocupado com o consumo de energia? Qual é a carga atual da sua CPU na sua caixa existente? Há alguma tarefa em segundo plano especial que seja executada em um cronograma?
Em geral ... sem saber mais ... eu ainda sugiro ir com o Atom dual-core sobre o p4 ... como ter dois núcleos distintos é melhor do que hyper-threading, e os átomos são muito mais energia eficiente & tem menos problemas de calor.