Isso seria um trabalho para Fail2Ban . Você pode usá-lo para verificar arquivos de log para expressões específicas e bloquear usando iptables com base nesses resultados.
Ofail2ban deve estar disponível na maioria dos repositórios de distribuição, embora você tenha que adicionar repos opcionais.