Os servidores de nomes, conforme reconhecidos pelos Registradores de Domínios, são hospedados por meio de seus registradores de domínio.
Ou seja, você precisa ter o ns1.domain.com. = > IP e ns2.domain.com. = > IP no seu NS, mas você também precisa informar ao seu registrador essa informação, através de seu formulário / mecanismo.
Como isso funciona depende do registrador com o qual seu domínio está registrado.
Editar:
1) O 'whois' para o seu domínio reporta os endereços IP do seu VPS como servidores de nomes reconhecidos oficialmente? Os ns1.xyz.com e ns2.xyz.com estão apontando para os endereços IP nos quais você tem um servidor de nomes em execução?
2) você indica que configurou o webmin para configurar o DNS para o seu VPS. Você confirmou que isso está realmente funcionando? Ou seja, o serviço de nomes está sendo hospedado em suas instâncias do VPS e, em caso afirmativo, os daemons estão em execução?