Muitas opções por aí. Eu uso o SyncToy para fazer backup de material de e para o meu laptop. Você pode programá-lo para ser executado em determinados horários através do Windows Scheduler (veja o menu de ajuda para saber como) ou ter um script para executá-lo sempre que conectar seu pen drive.
De qualquer forma, defina um par de pastas entre o seu pen drive e a pasta de destino e defina seu backup para adicionar novos arquivos e alterar somente arquivos antigos para obter o resultado desejado.