uma possibilidade é usar o openldap . aqui é um tutorial para você começar. o how-to é um pouco desatualizado, mas deve começar. talvez sua distro ofereça alguns dos pacotes necessários, isso tornaria muito mais fácil.
outra opção é o anúncio. Quando você já tem uma rede Windows com um anúncio de trabalho, você pode adicionar seus servidores Linux ao anúncio. você poderia usar serviços unix para windows ou pam ou ...
Algumas distribuições já têm pacotes para se conectar ao anúncio, por exemplo, da mesma forma no fedora / rhel.