Sua suposição de que você precisa ter os servidores de nomes do seu host e substituí-los no site do Registrador de Domínios não é exatamente o que você precisa fazer.
Primeiro: você não precisa alterar o arquivo /etc/resolv.conf no seu host. Esse é o arquivo de configuração que seu host usa para resolver todos os domínios / nomes de host da Internet, não apenas os seus próprios. Os endereços IP 8.8.8.8 e 8.8.4.4 são servidores DNS públicos fornecidos pelo Google e adequados para a maioria das configurações. A configuração deve se parecer com:
# /etc/resolv.conf
nameserver 8.8.4.4
nameserver 8.8.8.8
A alteração dos registros do servidor de nomes é o que você faz quando executa o seu próprio servidor de nomes. Normalmente você não precisa executar seus próprios servidores de nomes e não deve tentar antes de melhorar sua compreensão do DNS.
Acho que o que você provavelmente deseja alcançar é que as pessoas que usam, por exemplo www.yourdomain.com , acabam no seu VPS e o e-mail endereçado para <someone>@yourdomain.com também é entregue ao servidor de e-mail que você executa no seu host.
Isso é principalmente atualizar os registros de DNS para www.seudominio.com.br ftp.seudominio.com.br etc. Normalmente, seu registrador fornece um console de gerenciamento onde você mesmo pode fazer isso e seu domínio usa os servidores de nomes do registrador.
Nesse console de gerenciamento, você insere o endereço IP do seu VPS como A-record para www.yourdomain.com e para todos os outros nomes DNS que você pode querer usar.