Você poderia percorrer cada arquivo manualmente, lendo a partir de uma lista (talvez a saída de ls -lR source ou find source -type f ) e excluindo a duplicata da pasta de destino ...
Ou use find e md5sum para verificar arquivos realmente idênticos (não apenas arquivos com nomes semelhantes), comparando uma saída md5sum classificada para cada pasta, encontrando linhas duplicadas e excluindo os arquivos duplicados ofensivos de um pasta.
Ou (provavelmente melhor ) você poderia usar um programa de busca de arquivos duplicados, como fdupes ou fslint , ambos podem encontrar arquivos duplicados, um deles até possui uma boa GUI. Apenas certifique-se de apontá-los apenas para as pastas de "origem" e "destino" desejadas.
Veja essas outras perguntas para algumas opções (alterando a opção "mover para outro lugar" para "excluir"):