Se você quiser uma ferramenta de monitoramento, você pode usar Snort como khaled sugeriu, outra ferramenta de código aberto é OSSEC .
Tem muitas regras para fornecer monitoramento para servidores web, servidores de e-mail, autenticação ssh ... Ele envia um e-mail quando as coisas parecem suspeitas e também pode, quando configurado, bloquear esses IPs. Eles têm modelo de servidor-cliente. Eu escrevi uma introdução e um guia sobre como usá-lo aqui .