A ferramenta que você está descrevendo é "rsync".
É algo que começou no Unix, mas como todas as ferramentas úteis foram portadas para a maioria dos sistemas operacionais agora, incluindo o Windows.
O Rsync oferece uma ampla variedade de opções, incluindo a remoção de arquivos do destino quando eles não estão mais na origem, como no seu exemplo.
Quanto a qual versão do rsync usar, infelizmente não posso aconselhar, cada um tem diferentes pontos strongs e fracos e recomendo que você tente ver qual se ajusta melhor às suas preferências.
Eu posso dizer que cygwin (Virtualmente todas as ferramentas Unix portadas para o Windows) é muito bom, e vale a pena dar uma olhada.