Estou executando alguns programas paralelos em um cluster heterogêneo: 2 nós virtuais do CentOS (nó 1 & 2) em um host Mac e 2 outros (nó 3 e 4) em um PC. Quando executo um programa paralelo (que consiste em pesquisar um valor específico em um grande intervalo e aguardar até que todos os processos tenham terminado para imprimir o resultado e o tempo total de execução), observei que os processos do nó 1 e do nó 2 sempre terminam loop antes dos nós 3 & 4 e espere por eles por muito tempo (sem fazer nada) para finalmente exibir o resultado. Eu gostaria de saber se existe alguma maneira de fazer os processos a partir dos nós 2 & 1 para "ajudar" os outros processos (3 e 4), re-dividindo seus loops para acelerar o programa paralelo, em vez de esperar não fazer nada. Muito obrigado pela sua ajuda.
Tags performance cluster mpi parallelism