O RDNS deve ser configurado em seu ISP e não em seu nome de domínio, a menos que seu nome de domínio também seja gerenciado pelo provedor.
Se você não conseguir que seu ISP configure uma entrada RDNS para você, sua melhor solução seria o Smart-Host para o servidor de e-mail do seu ISP para entrega de e-mail externa ou um serviço de retransmissão de terceiros.