Antes de mais nada, sugiro que você use algo diferente de 5353 como uma porta alternativa para servidores DNS. 5353 entra em conflito com o zeroconf / mDNS.
A razão de só funcionar quando você usa vps.example.org
como resolvedor recursivo é porque esse é o único servidor recursivo que foi informado de que precisa ir para um servidor DNS especial na porta 5353 para localizar foo.example.org
.
Como você não pode especificar um número de porta em um registro NS
, geralmente é impossível ter um servidor autoritativo em uma porta diferente de 53. Todos os servidores de nomes recursivos no mundo encontrarão o registro NS para o domínio em questão e tentar entrar em contato com esse servidor na porta 53. Se você quiser que eles usem uma porta diferente, você deverá configurar cada um deles com uma zona direta apontando para a porta 5353.
A propósito, não está claro por que você deseja hospedar foo.example.org
em um servidor de nomes separado em uma porta diferente (ou endereço IP). Por que você não adiciona a foo.example.org
zone ao mesmo nameserver autoritativo que serve example.org
?