O E5-2650 tem 8 núcleos e pode processar 2 threads por código. Isso é 16 threads por CPU . Não 16 por núcleo.
Duas CPUs têm um total de 32 encadeamentos. Assumindo que o restante do computador seja rápido o suficiente para continuar alimentando a CPU, o uso ideal seria próximo a 32 segmentos. Na praxis isso não é verdade, há sempre algum outro atraso, seja ao ler da memória, ao ler ou gravar no disco ou em algum outro lugar. Portanto, o uso ideal nem sempre é o mesmo que o número máximo de threads utilizáveis.
No seu caso, 72 threads são provavelmente usados porque alguns começaram, então tiveram que esperar por outros dados. Enquanto isso, outros segmentos podem continuar. Portanto, há mais threads ativos que podem ser calculados ao mesmo tempo.