Conseguimos executar o serviço da Web no MOSS instalando em um servidor básico do WSS 3 / Biztalk e movendo o serviço da Web para o servidor MOSS (copie a pasta do aplicativo e adicione ao aplicativo da web central admin, copie e instale as dlls do BizTalk necessárias para segmentar o GAC do servidor (4 neste caso).
Eu não tenho idéia de por que nós não pudemos instalar ot usando o instalador do BizTalk, mas ele roda bem agora, não obstante.