Você pode ativar uma depuração razoavelmente detalhada nas folhas de propriedades do próprio servidor DNS. Ele registrará cada consulta recebida e a resposta enviada ao cliente.
Também capturaria o tráfego da rede e veria o que está acontecendo na transmissão. Não há nada como ver o que está no fio.
Eu ativaria "Recursos avançados" no console de gerenciamento e acessaria o cache quando você estiver com o problema e veria se algo estranho está sendo armazenado em cache pelo servidor DNS. Eu tive um problema que, embora eu tenha certeza, é completamente alheio ao que você está vendo, onde o servidor DNS de um ISP do Cliente retornaria um endereço IP privado para hosts em seu domínio periodicamente. Olhando para o cache me mostrou o que estava acontecendo e me levou a notificar o ISP do seu problema.