Existe um programa chamado fail2ban que foi projetado para assistir a um arquivo de log de texto correspondente a um regexp - geralmente assinaturas de um login com falha ou ataque de script - e bloquear o IP solicitante por um período de tempo configurável via regras iptables
.
Dado que a sua página principal menciona explicitamente a visualização de um arquivo de log do apache, desde que você possa dizer exatamente como é a assinatura de log de um desses "ataques", suspeito que esse seja o tipo de coisa que você está procurando. .