Normalmente, você pode usar o Whois para consultar servidores de nomes:
$ whois -h whois.verisign-grs.com "nameserver =ns3.serverfault.com"
Whois Server Version 2.0
Domain names in the .com and .net domains can now be registered
with many different competing registrars. Go to http://www.internic.net
for detailed information.
Server Name: NS3.SERVERFAULT.COM
IP Address: 69.59.196.217
Registrar: NAME.COM LLC
Whois Server: whois.name.com
Referral URL: http://www.name.com
>>> Last update of whois database: Fri, 18 Jan 2013 08:57:23 UTC <<<
A implementação desse recurso depende do TLD. .GOV, por exemplo, não retorna consultas de servidor de nomes:
$ whois -h whois.nic.gov "nameserver =a.gov-servers.net"
% DOTGOV WHOIS Server ready
No match for nameserver "A.GOV-SERVERS.NET".
>>> Last update of whois database: 2013-01-18T08:59:27Z <<<
Não há realmente uma maneira confiável (por exemplo, um método disponível em todos os TLDs) para verificar se um host foi registrado em um registro por meio de serviços DNS ou Whois públicos. Você não pode consultar os registros de cola diretamente e só os verá se consultar um domínio usando os servidores de nomes que está procurando. Como você está interessado em servidores de nomes não associados a nenhum domínio, isso não é uma opção.
A abordagem whois é a sua melhor aposta, mas não pode ser invocada. Um registro pode ter um servidor de nomes registrado, mas não se incomodar em colocá-lo no Whois se não houver domínios associados. As únicas maneiras 100% confiáveis de verificar a existência de um servidor de nomes no registro são consultar o registro por meio de um comando EPP CHECK. Como eles estão disponíveis apenas para registradores, isso não ajuda muito.
Let's say there are no domains using these name servers for DNS yet.
How can verify outside of my R account, that the name servers have
been registered successfully at the .TLD registry?
Claro, se você não tem nenhum domínio associado a um servidor de nomes, isso realmente importa? A única maneira garantida de verificar é registrar um domínio no TLD usando seu servidor de nomes, consultar o domínio e verificar a cola que você recebe de volta 'dig @tldnameservers yourdomain ns.