Em primeiro lugar, por amor à saúde, dê uma olhada em este entrada de blog referente à ordem na qual instalar os pré-requisitos para o MSMQ. Ele também tem algumas orientações sobre como instalar o serviço.
If you want to install MSMQ with the HTTP support feature, you must install IIS and WAS before attempting to install MSMQ HTTP Support. If you do not install IIS and WAS first, the install of MSMQ HTTP Support will fail, but you can recover by installing IIS and WAS, then retrying your install of MSMQ HTTP Support.
Você também pode dar uma olhada no artigo do TechNet aqui que oferece alguns métodos alternativos para instalar o serviço MSMQ.
Também é possível que os serviços de dependência necessários não sejam instalados ou iniciados de acordo com este artigo .
- Message Queuing access control
- Remote Procedure Call (RPC)
- Windows Event Log
Também sugiro que você verifique se o SP1 foi carregado e descobri algumas referências à falha do MSMQ quando ingressou em um domínio. Possivelmente tente e obtenha um dos administradores de domínio para registrá-lo e iniate a instalação.