Você está procurando por um software de gerenciamento ou monitoramento de sistema. Produtos de código aberto populares são,
- nagios
- munin
- cactos
- zabbix
Aqui está uma boa lista na Wikipedia .
Nenhum deles é trivial para configurar, mas eles variam em sua complexidade. Na lista acima, eu os classificaria (em ordem de complexidade de configuração, maior primeiro), nagios, zabbix, cacti, munin.
Eu nunca usei, mas Puppet é um produto que pode automatizar o gerenciamento do sistema (instalar coisas, configurar coisas, etc.) ) e pode lidar com várias máquinas.