Como ainda não foi explicitamente declarado, declararei.
Ninguém está usando seu domínio para enviar spam.
Eles estão usando dados de remetente falsificados para gerar um e-mail que parece ser do seu domínio. É tão fácil quanto colocar um endereço de retorno falso em um pedaço de correio, então não, não há realmente nenhuma maneira de pará-lo. SPF (como sugerido) pode tornar mais fácil para outros servidores de e-mail identificar e-mails que realmente vêm de seu domínio e e-mail, mas você não pode me impedir de colocar seu endereço postal como o endereço de retorno em todas as ameaças de morte que eu enviei, você não pode impedir que alguém coloque seu domínio como endereço de resposta em seu spam.
O SMTP não foi projetado para ser seguro e não é.