IMO esta questão é simplesmente irrespondível no caso geral.
Na minha mesa, eu tenho uma dessas novas CPUs Core i7-980x com seis núcleos e TurboBoost. Se você carregar um único núcleo nesta máquina, ele aumentará a velocidade do clock desse núcleo, aumentando assim o consumo de energia da CPU, o que fará uma enorme diferença. Essa CPU, assim como outras CPUs mais modernas, pode parcialmente desativar núcleos inativos, aumentando a economia de energia. Isso não é tão verdadeiro em modelos de CPU mais antigos.
Tenha em mente que o trabalho que você tem a fazer com um núcleo será necessariamente diferente do trabalho que você faz com vários núcleos. Se for possível distribuir a carga em vários núcleos, você descobrirá que muito tempo extra será gasto no único núcleo que executa switches de contexto caros e seu desempenho será prejudicado.
De qualquer forma, o problema tem muitas variáveis para realmente responder. Pode-se continuar e falar sobre os diferentes tipos de cargas, e qualquer um que tentar fazer benchmark para obter uma resposta terminará (provavelmente inadvertidamente) fazendo comparações de maçãs com laranjas que não se aplicam em outros casos de uso.
Ah, e mais uma coisa. A maioria das pessoas provavelmente citará eficiência em termos de poder . Você não quer cair nessa armadilha. Como o tempo para processar as cargas será necessariamente diferente dependendo de como as cargas são balanceadas, você deve integrar o resultado ao longo do tempo para encontrar a quantidade líquida de energia usada para completar os trabalhos, a fim de chegar a um resultado confiável.