Se você quiser gerenciar a configuração de todos os seus servidores, você deve usar uma ferramenta de gerenciamento de configuração como Chef , Puppet , Ansible ou Salt (há outros também).
Para as máquinas Red Hat, CentOS e Fedora, você também pode procurar no Spacewalk como uma ferramenta de gerenciamento de sistemas.
Se você simplesmente deseja executar alguns comandos em várias máquinas (rapidamente) e não quer usar uma ferramenta de gerenciamento de configuração, você pode fazê-lo via SSH usando Paralelo GNU .