O Samba 3, a versão atual, não usa os protocolos do diretório ativo. Em vez disso, ele usa os protocolos de domínio NT4 mais antigos. Como Jasper mencionou, isso usa o NetBIOS para pesquisas que usam transmissões. Você pode querer considerar a configuração do Samba como um servidor WINS, se você tiver mais de uma sub-rede, é um requisito.
Se você estiver usando um Samba4 alpha que faz usar os protocolos do AD, você precisará de um servidor DNS. Existem algumas almas corajosas que estão usando o Samba4 em produção sem grande problema, é na verdade bastante estável.