O Microsoft Active Directory é (principalmente) apenas um servidor LDAP, alguns esquemas pré-preparados e algumas ferramentas para interagir com ele e o Kerberos. O OpenLDAP é praticamente um substituto para o primeiro.
Embora seja possível projetar seus próprios esquemas compatíveis com AD (ou se você já tiver um esquema do AD, importá-lo para o openLDAP) e escrever suas próprias ferramentas para gerenciar os conjuntos de dados, existem soluções em execução no openLDAP disponíveis, por exemplo GoSA , freeIPA veja o wiki do samba para mais coisas
Não tenho certeza de onde o Samba 4 chegou (espera-se que ele adicione funcionalidade de substituição para o MSAD).