A resposta é que depende. Tudo o que posso lhe dar é um conselho sobre como abordar esse problema.
RAM
Geralmente, é uma boa ideia não alocar RAM excessivamente. A melhor quantidade de RAM que você pode adicionar ao seu servidor deve ser a soma da RAM que suas máquinas usarão + 1 ou 2 GB para o hipervisor. Dessa forma, você garante que sua máquina virtual não fique com falta de memória caso a pessoa fique descontrolada e ocupe todo o espaço alocado.
CPU
Dependendo da carga das suas VMs, você pode alocar excessivamente a CPU. Dito isto, o E5-2620v3 tem 12 threads (6 cores + Hyperthreading) versus 2x E5-2407v2 que só tem 8 threads combinados (2x 4 cores). Pessoalmente eu iria para o 2620 porque ele tem mais threads, mas também porque ao rodar um servidor com duas CPUs você tem que levar em conta o título NUMA .