Você pode dar uma olhada em fail2ban . Não tenho certeza se há uma ação para banir via .htaccess, mas isso pode ser adicionado - se você não quiser banir via iptables.
Você conhece alguma ferramenta que monitora o apache logs para ações suspeitas (por exemplo, vários blocos por mod_security de um IP) e depois bloqueia esse IP usando .htaccess?
Você pode dar uma olhada em fail2ban . Não tenho certeza se há uma ação para banir via .htaccess, mas isso pode ser adicionado - se você não quiser banir via iptables.
Tags security apache-2.2 log-files