Essa parece ter sido uma condição rara que não aparece com frequência, mas responderei para que a outra pessoa que experimente esse comportamento daqui a 3 anos saiba o que fazer.
Eu escrevi um pequeno aplicativo C # para examinar as propriedades do grupo (incluindo aquelas que estão ocultas na maioria das ferramentas baseadas na GUI do Active Directory) e descobri que a propriedade IsContainer estava definida como false. Eu trabalhei com os proprietários do grupo para redefinir o valor para true, e tudo funcionou corretamente depois disso.