O registro MX deve apontar para o servidor SMTP que manipula os e-mails recebidos.
Então, quando você faz a pergunta se o registro MX deve apontar para o servidor SMTP de saída, o servidor POP3 ou ambos, a resposta é não.
Obviamente, o servidor POP3 e o servidor SMTP de entrada devem estar ligados uns aos outros, mas eles não precisam estar no mesmo IP. Se eles estiverem no mesmo IP, você poderá apontar seu registro MX para o nome do servidor POP3.
Você deve criar um registro PTR em cada um dos seus endereços IP. É importante que o registro PTR aponte para um nome válido e que esse nome aponte para o endereço IP. Se você tem vários nomes apontando para o mesmo IP, basta escolher um deles.
Alguns receptores exigem que o servidor SMTP de saída envie o mesmo nome de host que você possui no registro PTR.