Existe um utilitário chamado identify
que vem com o pacote ImageMagick. Ele fornece uma soma de verificação (MD5, pareço lembrar) dos dados de imagem (não incluindo tags) da imagem. Isso pode ser usado para encontrar duplicatas. Eu entro nisso com alguma profundidade no meu post sobre desduplicação de bibliotecas do iPhoto - mas os conceitos também são aplicáveis a outras situações.
Não conheço nenhuma ferramenta que faça isso automaticamente, mas a postagem com a qual eu fiz o link acima mostra a maior parte do que você precisa. Tudo o que é necessário é chamar identify -verbose
e extrair sua soma de verificação, em vez de usar a chamada para o utilitário md5sum
que uso em meu script na postagem. Se você precisar de ajuda com isso, é provavelmente um post para o StackOverflow: -)