Primeiro, qual é a saída de vssadmin list providers e vssadmin list writers no servidor Exchange? Em seguida, eu diria para dar uma olhada no log de eventos no servidor Exchange e ver quais eventos você está recebendo do VSS, já que com frequência isso lhe dará alguma indicação do que exatamente está dando errado. Dito isto, darei algumas dicas gerais que, esperamos, apontarão na direção certa.
Eu não posso falar pelo seu software de backup específico, mas já tive o mesmo tipo de coisa com o Backup Exec. De todas as coisas que poderia fazer, o nosso Exchange Server azul tela no meio de um backup. Quaisquer backups subsequentes que foram iniciados enfraqueceriam o Exchange, e qualquer tentativa de reiniciar qualquer um dos serviços do Exchange permanecia indefinidamente e, por fim, levava a uma reinicialização para reativá-lo (sem backup, por exemplo).
Desculpe por apontar o óbvio, mas se você ainda não tiver reiniciado o servidor novamente, mas de uma maneira mais ordenada, vá em frente e veja se ele resolve o problema. Você pode tentar testar apenas todos os serviços do Exchange, mas não tenho certeza de que isso resolveria seu problema e recomendaria uma reinicialização completa.
Estou assumindo que seu software de backup instala um agente de algum tipo em seu servidor. Reinstale esse agente caso ele esteja em algum estado inconsistente do qual não possa sair. Esperemos que, quando desinstala, cancele o registro do sistema e registre-se novamente em um estado consistente quando for instalado novamente. No nosso caso, isso resolveu o problema.
Se isso não funcionar, faça um backup do Exchange com o backup interno do Windows Server para ver se isso também falha. Se isso não falhar, tente um backup completo com o software de backup e veja se ele consegue lidar com isso. Se você obtiver um bom backup completo, as chances são boas de obter incrementais e backups completos bem-sucedidos no futuro.