Eu tinha um colega vindo e me ajudando com este, e no final, conseguimos que funcionasse. Passos abaixo, caso alguém tenha o mesmo problema.
1) Use o instalador do SQL Express para remover o Banco de Dados do WSUS (tivemos uma instância nomeada separada em vez do Banco de Dados Interno do Windows)
2) Use Este artigo para remover manualmente o WSUS
(No nosso caso, as seguintes chaves não seriam deletadas): HKEY_LOCAL_MACHINESoftwareMicrosoftWindowsCurrentVersionINstallerUserdatas-1-5-18Produtos Microsoft Windows Server Updates Services 3.0 HKEY_LOCAL_MACHINESoftwareClassesInstallProdutos25B648799C414CF4EB36EF60FA054124 HKEY_CLASSES_ROOTWSusCertServer.CertManager HKEY_CLASSES_ROOTWSusCertServer.CertManager.1 HKEY_CLASSES_ROOTWSusUtilities HKEY_CLASSES_ROOTWSusUtilities.1
3) Remova a função WSUS usando o gerenciador de servidores
4) Reinicie e reinstale o WSUS usando o gerenciador do servidor. Neste ponto, a instalação funcionou, mas as tarefas de pós-instalação falharam.
5) Trabalhe com Este artigo para solucionar problemas de uma instalação com falha do WSUS - In Our caso, removendo as funções IIS e RAS, reinicializando e adicionando-as novamente, o WSUS concluiu sua inicialização
Neste ponto, os computadores clientes estão sendo exibidos no WSUS. Alguns não estão relatando, mas executar um WSUS Reset do lado do cliente está corrigindo isso:
gpupdate /force
net stop wuauserv
REG DELETE "HKLM\SOFTWARE\Microsoft\Windows\CurrentVersion\WindowsUpdate\Auto Update" /v NextDetectionTime /f
net start wuauserv
wuauclt /detectnow
pause