Finalmente, consegui descobrir o problema, mas demorei um pouco. O engraçado é que a resolução de nomes não era o problema. Desculpas pelo título enganoso, mas os sintomas foram muito enganosos também.
Depois de tentar alterar aleatoriamente possíveis configurações configuradas, eu também tentou mapear o compartilhamento em uma máquina como uma unidade de rede. A versão GUI me deu o erro que o nome de usuário não pôde ser encontrado, obviamente falso. O comando "net use ..." me deu
System error 86 has occurred.
The specified network password is not correct.
o que finalmente me leva a este post no fórum:
que fornece a solução para o meu problema. O problema era que algumas máquinas tinham a autenticação NTLM ativada por padrão e aqueles em que funcionou desde o início tinham o NTLMv2 habilitado por padrão. Ainda estranho desde usando nomes unc com endereço IP não fez nenhum problema em tudo.
Minha conclusão é nunca confiar totalmente em coisas postadas em algum lugar da Internet (me fez acreditar que o windows 7 sempre usa NTLMv2) e nunca confiar totalmente nas mensagens de erro do Windows, porque o valor das informações era ainda pior do que se disse "eu corri para fora do papel higiênico" ou algo assim.