nagios é a primeira coisa que me vem à mente. com tons de plugins você pode monitorar muito. Dependendo do tipo do seu serviço, você pode querer executar nagios tanto externamente [apenas para verificar respostas http - você pode fazê-lo em alguns VPS] quanto internamente [para monitorar todos os encanamentos, bancos de dados, tamanhos e tudo o que você tem lá] . você pode usar algum serviço de SMS pago para enviar alertas em seus celulares ou se os e-mails forem suficientes - basta enviá-los.
também existem soluções alternativas de código aberto, como o zabbix . Eu usei nagios em setup com 80 servidores e com mais de 1000 serviços monitorados, mas existem pessoas que o executam com sucesso em escalas muito menores e maiores [por exemplo, em goldman sachs ].