Basicamente, você precisa garantir que você use uma versão recente do John que tenha suporte ao OpenMP ativado.
Se você mesmo compilar você tem que habilitar explicitamente o suporte OpenMP no makefile (e verificar se as dependências necessárias estão disponíveis - por exemplo, um GCC > = 4.2).
O suporte do OpenMP não está necessariamente disponível para todos os métodos de hash, e a edição da comunidade (-jumbo) suporta mais do que o oficial.
Com o binário resultante, você pode verificar se o OpenMP está chamando ldd - ele deve exibir algumas bibliotecas relacionadas a mp. Além disso, você pode especificar através da variável de ambiente OMP_NUM_THREADS o número de núcleos que um programa OpenMP deve usar - se não estiver definido, o padrão (no Linux) deve ser: todos os núcleos.
Veja também as anotações no OpenMP no Wiki de John .