Software de segurança e sistemas de registro para cada serviço. O SSH tem um log de texto simples que você pode examinar e contar com falha. Se você precisa manipular o ssh no linux o fail2ban é seu amigo.
Alguns sistemas de registro possuem boas interfaces gráficas e eles mostram falhas em gráficos agradáveis.