Existe uma maneira de bloquear automaticamente os IPs com o apache2. Por exemplo, se obtivermos muitas solicitações (100s) para páginas não existentes (ou padrões conhecidos, como CHANGE_LIST.txt, etc.) para bloquear esse IP e adicioná-lo à lista de negações.
Você pode fazer isso usando algo como fail2ban , que pode ser feito para monitorar arquivos de log do Apache pedidos como você descreveu e execute alguma ação quando um limite é atingido. Essa ação pode modificar sua configuração de firewall local para bloquear o solicitante ou executar alguma outra ação para fazer com que o Apache rejeite as solicitações.
Você já tentou mod_evasive? Pode ser exatamente o que você está procurando, dependendo do tempo de bloqueio desejado.