Primeiramente, gostaria de salientar que você provavelmente está pegando o problema do lado errado: em teoria, você deve escrever um business case para uma solução de backup melhor, fazer com que o seu gerenciamento apresente isso para a TI central e então deixe-os resolver por si mesmos.
Agora, estando fora do caminho, você enfrentará vários problemas com essa proposta. O primeiro é que o Mercurial não é construído para o que você quer fazer e nem é robocopy. Você pode encontrar maneiras de resolver o problema desclassificando a própria localização de backup como sendo um repositório, mas isso não é muito eficiente.
Em vez disso, eu investigaria duas faixas diferentes.
O primeiro é usar o Volume Shadow Copy para criar um histórico de snapshots que você armazena em uma matriz de disco diferente no servidor (parece que você está executando o Windows no seu servidor de arquivos e suponho que você tenha uma versão recente de 2008 ou superior). Isso lhe dará uma maneira fácil de recuperar arquivos do usuário (na verdade, os usuários poderão recuperar os próprios arquivos), mantendo o tamanho do backup próximo ao tamanho dos dados. A desvantagem disso é que você precisará de acesso de administrador no servidor para configurá-lo, de modo que não haja nenhuma maneira de envolver seus administradores de TI (o que, pessoalmente, acho que é uma boa ideia, mas isso é apenas eu).
A segunda opção é morder a bala e obter um software de backup "real". Se os seus dados forem importantes o suficiente, você provavelmente poderá criar um caso de negócios para esse investimento. Caso contrário, você sempre poderá usar o backup do Cobian para criar cópias incrementais dos arquivos como uma tarefa no nível do usuário ou, se realmente quiser usar o mercurial, use o backup do Cobian em vez do Robocopy para criar a cópia do repositório.