Primeiro, você precisa parar o spam.
a- defina seu firewall para não permitir SMTP / POP de saída, exceto do servidor de e-mail.
b- defina seu servidor de e-mail para não permitir retransmissão de saída.
Em seguida, você precisa encontrar a (s) máquina (s) problemática (s).
1- Observe os logs do firewall para ver quais máquinas estão realmente tentando enviar e-mails bloqueados. Essas máquinas estão infectadas.
2- Certifique-se de que cada máquina possui corrente A / V e faça uma varredura completa em cada máquina.
3- Você pode querer implementar o Firewall do Windows em cada máquina.
4- Se ainda não for encontrado, você precisará usar um sniffer.
Observação: não acho que o DNS e o e-mail no mesmo servidor sejam um problema.