A falta de registro DNS reverso é algo que deve ser abordado / facilitado pelo dono do endereço IP, geralmente o ISP ou provedor de conectividade.
Não é a causa do segundo erro:
too many syntax or protocol error
Isso é causado um cliente SMTP ruim que não adere aos padrões (que normalmente é uma boa indicação de um Spambot).
Você pode ajustar esse comportamento com o smtp_max_synprot_errors configuração.