Eu também estou tendo um problema com um instalador installshield para o Pixelogic Sculptris.
O problema está no modo como o SCCM usa a conta SYSTEM sempre que é executado, como quando "executar com direitos administrativos" é definido. É por isso que executar o arquivo em lote que tenho da pasta em cache (que aponta para o arquivo iss) como eu e "executar como administrador" funciona, mas iniciar o programa a partir de Programas Anunciados não.
Se eu definir o programa para ser executado com direitos do usuário, não há problema.
Infelizmente, alguns ambientes não permitem que contas de usuários comuns sejam administradores. Eu gostaria que houvesse uma maneira de contornar essa questão.