O postfix não pode fazer isso. Eu uso rspamd para isso, existe uma regra:
MX MX_INVALID O domínio não tem MX de trabalho
MX MX_MISSING O domínio não tem MX solucionável
Defina apenas uma pontuação alta e desfrute do bloqueio de spam.
p.s. O RFC não exige que o domínio tenha um registro MX válido