O postfix tem uma opção interna para criar um "tar pit", ou seja, para desacelerar quando um cliente aciona muitos erros. Tanto o atraso usado quanto quantos erros são necessários para acionar o atraso são configuráveis.
As opções de configuração que você deseja ver são smtpd_error_sleep_time . Exatamente como configurá-lo depende de qual versão do postfix você está usando, mas o link fornece informações sobre ele.
Além disso, você pode querer usar algumas das listas negras baseadas em IP publicamente disponíveis. Uma lista de listas negras comumente usadas está disponível no projeto Spamhaus , com recomendações sobre como usá-las.