A melhor solução para usar o OpenMPI em um número tão pequeno de máquinas é usar os comandos mpirun ou mpiexec, com ou sem um arquivo host. Isso deve funcionar e você não precisa de um gerenciador de processos de terceiros, como Torque ou Slurm.
Se o seu trabalho de MPI não estiver sendo iniciado, pode haver algo errado com a comunicação. Teste isso criando um arquivo host que contenha apenas sua máquina local, que deve atribuir todos os seus processos MPI ao seu host local. Além disso, antes de executar seu próprio trabalho MPI, comece com os trabalhos de exemplo fornecidos com o Open MPI.
Pode ser bastante complicado configurar o Open MPI. Em seu script de configuração, declare expressamente qual suporte de comunicação subjacente você precisa (por exemplo, sm e tcp). Quando você estiver executando seu trabalho, especifique quais canais o MPI deve usar. Especificando explicitamente esses valores, a MPI retornará um erro se houver algo errado.
Para começar a usar o mpirun, dê uma olhada na documentação do Open MPI da versão mais recente: link