Você não pode. O RPM costumava ter um conceito interno de grupos (veja ainda /usr/share/doc/rpm/GROUPS para a lista canônica), mas isso acabou não sendo muito útil e foi descartado. (Mas mesmo assim, não havia como expressar os requisitos dessa maneira.) Agora, os grupos de pacotes são feitos em um nível mais alto em arquivos "comps" compreendidos pelo yum - mas não há como referenciá-los em um pacote.
Algumas distribuições resolvem isso criando "metapacotemas" - pacotes que por suas próprias linhas Requer definem um tipo de grupo. Nós não fazemos isso no Fedora (e isso é herdado no CentOS e no RHEL).
Então, basicamente - você terá que documentar que este RPM requer que um determinado grupo seja realmente útil, ou listar todas as dependências reais uma por uma.