IPtables funciona muito bem para gerenciar INPUT, OUTPUT, MASQ, Etc, no entanto, é limitado a serviços de gerenciamento, protocolos e fontes de tempo limite.
Você deve instalar o Fail2ban e criar cadeias para diferentes tipos de serviços que deseja gerenciar.
Verifique este link e faça-o.