Eu sugeriria dar uma olhada no fail2ban [1]. Ele é projetado principalmente para evitar tentativas de quebra de força bruta SSH, mas existem muitos módulos adicionais [2] que foram escritos que funcionam muito bem para o WordPress e outros WebApps.
[1] link
[2] link
Melhor Lev