Você estava quase lá.
find $HOME/Filme -type f -name '*avi.avi' -exec \
sh -c "rename -v 's/\.avi\.avi$/.avi/'" {} \;
(O argumento para rename
é uma substituição de expressão regular; e a opção /g
só seria útil se você quisesse substituir todas as ocorrências em um nome de arquivo correspondente; mas, por definição, só pode haver uma correspondência em o fim.)
Talvez mais útil você possa agrupar isso e talvez usar apenas mv
para melhorar a portabilidade.
find $HOME/Filme -type f -name '*avi.avi' -exec \
sh -c 'for f; do mv -v "$f" "${f%.avi}"; done' _ {} +
Se não houver necessidade de percorrer subdiretórios,
for f in $HOME/Filme/*.avi.avi; do
mv -v "$f" "${f%.avi}"
done