A maneira mais fácil seria entrar em contato com o fornecedor do aplicativo e descobrir quais são as opções da linha de comando. Com isso dito, às vezes um fornecedor escolhe não disponibilizar essa informação. Nesse caso, gosto de usar o Process Monitor para observar o processo de instalação.
A maioria dos instaladores funciona da mesma maneira. Você faz o download de um único arquivo e o arquivo extrai todos os arquivos de instalação reais em um diretório temporário. Como precisamos ver para onde o instalador está sendo extraído, use o monitor de processo para observar o instalador assim que for iniciado. Não continue com o instalador nem saia dele. Ao executar uma das ações, os arquivos temporários serão excluídos. Copie todos os arquivos extraídos do diretório temporário. Você usará esses arquivos para o seu instalador personalizado. Depois de localizar o processo específico (no Process Monitor), filtre todos os outros processos. Você pode então observar o processo enquanto continua a seqüência de instalação. O que você está procurando é um comando msiexec que chama a instalação do recurso que você solicitou.
Isso pode ser um processo demorado de tentativa e erro, mas tive grande sucesso na personalização de instalações de aplicativos em que os fornecedores não fornecem essas informações ...