Não conheço uma forma centralizada de manter tudo tranquilo e monitorado. Por outro lado, vejo as outras respostas sugerindo combinações de ferramentas. Então aqui está o meu:
- O Zabbix possui monitoramento / gráficos juntos em uma única ferramenta. Suporta informações via SNMP e agente customizado. É muito bom, mas deve ser ajustado para seus servidores ou você terá problemas com o banco de dados.
- O Puppet é um gerenciador de configuração onde você pode escrever manifestos que definem uma máquina. Ele cuida da configuração, gerenciamento de pacotes e implantação (para que você possa aplicar uma alteração de configuração a um grande número de servidores ao mesmo tempo). É uma ótima ferramenta, fácil de instalar e fácil de começar, mas as configurações avançadas exigem algum conhecimento de sua linguagem de manifesto .
O Zabbix tem uma interface web e o Puppet tem um projeto Puppet Dashboard que é muito legal.
Em uma última nota, Webmin parece uma boa idéia, mas na minha experiência é uma grande preocupação de segurança. Muitos exploits foram encontrados ao longo do tempo e eu não confiaria em servidores de produção.