Grupos no * nix (que inclui o Ubuntu) não podem conter outros grupos.
Os grupos do AD estão disponíveis como grupos regulares se você tiver a associação ao AD configurada corretamente, tente
getent group
e veja se os grupos estão listados, se sim, então você pode usá-los diretamente:
chgrp ad-group-A /some/dir