Você pode usar a versão GNU do paralelo
Por exemplo, para chamar echo com os argumentos 1 a 10 , despachando cada comando echo para um dos server.example.com ou server2.example.net :
seq 10 | parallel --sshlogin server.example.com,server2.example.net echo