Com base na sua descrição do problema, eu entendo que o seu Servidor Upstream (USS) está no Server 2008 R2 e você está instalando um novo Servidor Downstream (DSS) no Servidor 2012 (R2?).
Ao tentar gerenciar um ambiente de versões mistas do WSUS, o USS deve ser sempre o mais novo. Um novo USS pode manipular protocolos de nível inferior para servidores WSUS mais antigos, mas os servidores WSUS mais recentes não falarão sobre o protocolo anterior ao USS.
Você pode começar com o novo servidor entrando em contato direto com o WU / MU e migrar outros servidores DSS para ele quando estiver satisfeito com os resultados. Em seguida, descomissione o USS original - ou, para fins de balanceamento de carga, reutilize-o como um DSS do seu novo sistema.
Para a solução de problemas, você também pode verificar se o seu sistema 2008R2 está executando o WSUS 3.0 SP1 ou SP2. O Server 2012 (e R2) definitivamente suporta apenas o WSUS 3.0 SP2.
Veja também: link
Se outros sistemas DSS em funcionamento também estiverem na mesma versão do Server 2012 (R2?), poderemos examinar configurações incorretas específicas relacionadas a esse servidor individual - por exemplo, configurações TLS se a comunicação for via HTTPS.
link