Eu tive o desejo de fazer algo semelhante e fiz algumas pesquisas sobre o assunto no passado.
Não há nenhuma API exposta que eu possa encontrar para fazer o que o Editor de Diretiva de Grupo está fazendo para criar esses arquivos de script de anúncio de aplicativo (.aas) e os registros correspondentes no AD. A API de diretiva de grupo do PowerShell permite definir configurações baseadas no Registro, mas não configurações para outras extensões de diretiva de grupo.
Existe agora uma referência ao Extensão de protocolo de instalação de software de diretiva de grupo (graças ao acordo antitruste da UE!) e suponho que você poderia tentar e transferir o mecanismo para executar tarefas por conta própria. As transações LDAP necessárias para executar a adição do pacote e o formato dos arquivos .aas estão lá. Parece um pouco assustador (embora divertido) ...
Francamente, sua atenção aos detalhes é: o teste de implantação deve ser elogiado. Eu queria que você estivesse escrevendo softwares que meus clientes usam. O fato de você estar usando o Windows Installer sozinho coloca você à frente do pacote. Que você saiba sobre implantação de software de Diretiva de Grupo e esteja realmente testando isso me deixa tonta! Eu gostaria que alguma fração mensurável de desenvolvedores se importasse tanto quanto é claro que você faz.