MX | mydomain.com | 600 | <WHM server IP address>
O registro MX deve apontar para um nome de host totalmente qualificado e não para um endereço IP. O mesmo se aplica a um CNAME. Na verdade, é muito comum criar um mail.example.com
hostname (um registro A apontando para o IP do servidor de email ou um CNAME que alias um nome de host existente apontando para o IP do servidor de email) e apontar o registro MX para lá.
Você deve verificar qual é o IP do servidor de e-mail, criar um registro mail.mydomain.com
A que aponte para esse IP e atualizar o registro MX com esse nome de host.