Uma rápida pesquisa no Google revela várias pessoas por aí com problemas com o SMS 2003 SP3 e o WSUS 3 na mesma máquina.
Eu diria que se você puder separar os dois razoavelmente rapidamente e testá-lo, potencialmente economizará muito tempo a longo prazo.
Para dizer isso de outra forma ... há exemplos suficientes de outras pessoas tendo os mesmos (ou similares) problemas que você para justificar separando os dois para ver se isso resolve o problema.
Boa sorte! : -)