Well, what if I create a set of name servers and have them set as someone else's domain?
Você pode levantar um servidor DNS e atender a solicitações de qualquer domínio que desejar. Isso seria um exercício completamente inútil, porque as solicitações para esses domínios nunca chegariam ao seu servidor.
What is stopping the domain name from resolving to the lookalike DNS servers I just created ?
Bem, como você apontou, os registros do servidor de nomes são definidos no registro de domínios. Se eles estiverem definidos corretamente, as solicitações para o seu domínio só serão encaminhadas para esses servidores.
What if someone randomly creates two name servers that you created, ns1.peanuthead.com and ns2.peanuthead.com?
Você parece estar bastante confuso. Se você estiver no controle de example.com, somente você e você, sozinho, poderão criar registros DNS nesse domínio. Claro, qualquer outra pessoa pode configurar seu servidor DNS para ser autoritativo para esse domínio, mas, novamente, isso é inútil, pois as consultas para example.com sempre serão direcionadas apenas para os servidores de nomes especificados.
What what stops the domain peanuthead.com from querying those name servers created by someone else?
Essa pergunta não faz sentido, pois ninguém mais pode criar registros em seu domínio e ninguém além de você pode editar os registros do servidor de nomes em seu registrador.