Você pode usar a correspondência hashlimit
. Dê uma olhada nas opções aqui .
Para registrar uma vez por ip de origem por hora, você teria, por exemplo:
iptables -A INPUT -m hashlimit --hashlimit-upto 1/hour --hashlimit-mode srcip -j LOG
Com base nas suas necessidades, você pode usar os seguintes modos: srcip, dstip, srcport, dstport
e o comprimento a seguir: /sec, /minute, /hour, /day
.