Greylisting (eu uso milter-greylist) + spamassassin + spamhaus funciona de forma decente. Todos eles são baseados em milter e devem ser agnósticos em MTA.
Eu também tenho uma variedade de truques do sendmail, como atrasos no HELO, penalidades para mais de dois endereços errados, taxas máximas, etc. O postfix pode ter técnicas equivalentes.
Não é mágica, no entanto. Você ainda terá spam, mas menos.