Parece que a mensagem de consulta (0x3766) está sendo enviada por UDP sem EDNS (haveria um Opt RR na seção adicional se estivesse usando o EDNS), o que limita a resposta máxima a 512 bytes. Os dados TXT sozinhos são 546 bytes, portanto, a consulta não pode ser respondida em 512 bytes. O servidor deve estar respondendo com uma resposta truncada (conjunto de bits TC) que acionaria o cliente para repetir a consulta sobre TCP.
Não estou familiarizado com o Windows, então tudo que posso sugerir é reduzir o tamanho do registro TXT. Pessoalmente, tentaria definir os dados do registro como "1" e ver como isso afeta o cliente. (Um registro TXT é necessário para um serviço DNS-SD e alguns servidores / clientes de DNS se engasgam com registros TXT vazios, portanto, um único caractere é o mínimo que você pode esperar.)