Parece que você queria sua topologia de DNS assim:
Clientes > Roteador > RaspberryPi
Isso deve funcionar para sua LAN, desde que o RPi tenha seu DNS upstream configurado corretamente. Existe um projeto chamado pi-hole baseado neste conceito.
REF: link
Se você está tendo problemas com seu roteador, a outra opção seria apontar seus clientes diretamente para o Pi em vez do roteador. Isso requer a reconfiguração de todas as configurações de DNS de seus clientes, o que pode ser indesejável.
O final do seu post começa a entrar no DNS público, o que levanta a questão: O que você está tentando fazer aqui? Você quer que seu Pi esteja em uma entrada de DNS local ou global? Estas são coisas muito diferentes.
Se você fez um registro DNS global para o seu Pi, você precisaria configurar o encaminhamento de porta através do seu roteador para tornar o Pi visível para a Internet pública. Isso é algo que eu tenho que alertar contra você como um buraco de segurança potencialmente fatal. A menos que você seja um profissional de segurança, eu não colocaria um RaspberryPi voltado para a Internet pública.
Isso se pareceria com: DNS público (nome de domínio) - > Seu IP público (deve ser estático ou DDNS) - > Seu roteador (porta para frente) - > RPi