Você precisa pensar como se estivesse em um ambiente "real" do Windows. Nesse ambiente, se você precisar adicionar mais servidores, não criará um novo domínio para cada um desses servidores. Aqui é o mesmo.
O servidor A está apontando para o backend do LDAP, com todos os usuários e grupos. O servidor está atendendo a um controlador de domínio.
Então, o que você precisa fazer é configurar seu segundo servidor para ser um membro do domínio servido pelo servidor A.
Você gerenciará todos os seus usuários e grupos em um LDAP, o servidor A como um controlador de domínio executará toda a autenticação para seus usuários. O servidor B servirá seus compartilhamentos. E como ambos estão no mesmo domínio, seus usuários poderão acessar recursos em ambos os servidores, sem a necessidade de realizar Relações de Confiança de Domínio.
Esta é uma configuração usual, mesmo em uma configuração "real" do Active Directory do Windows: dividindo o trabalho de autenticação e serviços de arquivo.