Eu costumava ter um problema semelhante (servidor Ubuntu Samba 16.04 e estação de trabalho Windows 10). Quando tentou entrar no computador Win para o domínio apareceu uma janela com a seguinte mensagem:
"Ocorreu o seguinte erro ao tentar aderir ao domínio" example.com ":
A estrutura do ID de segurança é inválida. "
Resolvido a reinicialização do servidor Ubuntu, junte-se à caixa Win 10 sem problema. Então ... Instale o samba, reinicie o servidor e junte o cliente win ao domínio.