Nativamente, uma máquina do Windows só pode autenticar em um domínio do AD em que está (ou em um domínio em que confia no domínio em que está.) Você pode encontrar GINAs de substituição, acredito que exista um para simples 'LDAP.
No entanto, assim que você tiver um domínio do AD, também terá o Kerberos e o LDAP como parte do acordo. Você pode autenticar o OS X em relação ao AD e pode usar o PAM para autenticar as máquinas Linux em relação à parte LDAP do AD.