Basically, will the reverse DNS pointing to a subdomain of the domain the mail server reports be valid?
Não. Basta dar ao seu servidor um nome completo como myserver.mydomain.com . Certifique-se de que seu DNS reverso também contenha myserver.mydomain.com e que o servidor de e-mail se anunciou (com HELO ) como myserver.domain.com também.
Tecnicamente, você poderia ter mail.domain.com , mas isso significa que o nome de host não FQDN da máquina seria mail , o que não é elegante.
Não tenha seu nome de host como domain.com , (sinto que) o domínio deve ser a entidade organizacional, não um nome de host.