O que você deve procurar é um firewall e fail2ban
. O iptables
ainda é praticamente padrão para distros do Linux e o fail2ban
funcionará com a maioria dos serviços. O que você gostaria de fazer é configurar fail2ban
para monitorar um arquivo de log específico usando um padrão específico de regex para saber quando um desses clientes 'problemáticos' está se conectando, e então fail2ban
adicionar automaticamente a regra de firewall para descartar ou rejeitar a conexão. O fail2ban é configurável com como deixar a regra de firewall para que você possa bloquear um cliente por 5 minutos ou 5 dias, o que você quiser realmente.
Você também pode usar um firewall de aplicativo da Web (WAF) para esse tipo de material também.
No que diz respeito a um ataque do DOS, dependendo de como ele está sendo feito, você pode estar sem sorte com um firewall local e pode ter que obter com seu provedor de upstream rotas negras ou hosts que são conhecidos por serem problemática e causando grandes interrupções nos serviços. Parece que você não está nesse tipo de posição e tem apenas uma possível aplicação na camada de aplicativos, então isso é um exagero.