Isso soa como um bug no processo de resolução de nomes. Como tanto o IP quanto o FQDN funcionam, parece-me que o SMB está funcionando bem. Mas ter hosts / lmhosts e não corrigir o problema também sugere problemas de resolução de nomes e problemas que acontecem antes de chegarem à etapa de resolução de DNS.
Uma maneira de verificar se está tentando até mesmo resolver o DNS, ou para ver o que está tentando resolver, é tentar uma captura de pacotes no servidor afetado quando ele entrar nesse estado. Olhando para as várias permutações que ele tenta resolver (se houver) deve fornecer algumas pistas.
- Se estiver tentando resolver tudo, menos o domínio correto, talvez seja necessário consultar as listas de Sufixo DNS em suas conexões de rede.
- Se não houver tráfego de DNS relacionado ao servidor em questão, a falha estará no software em algum lugar antes de chegar à resolução de DNS. Isso seria uma questão da Microsoft e manter a captura de pacotes, uma vez que eles provavelmente pedirão por um.
- Se resolver corretamente o nome do servidor em um IP via DNS, mas ainda assim não funcionar, isso indicará uma falha em algum outro lugar na pilha, possivelmente na área de antivírus ou firewall de terceiros. Ou um bug que precisa da atenção da Microsoft.