Em primeiro lugar, sim, o que você quer é possível.
A frase que você está procurando é "Política de senha refinada", que permite configurar políticas de senha com base na associação do Grupo de segurança global.
Esteja avisado, porém, embora não seja muito complicado , não é um processo tão bom quanto outras áreas do Active Directory.
Eu tento evitar postar links cegos, mas provavelmente há muito para colocar em uma resposta aqui, então aqui está um passo a passo: