O desempenho não deve ser um problema; Verifique o recurso @rbl do ModSecurity em combinação com o cache DNS local, que permitirá que você acompanhe os ofensores no DNS e utilize essa zona DNS como referência ao decidir permitir ou bloquear alguma conexão.
mais em link