Suponho que o seguinte funcione. Supondo que o prefixo dos seus nomes de arquivos seja "DSC", você pode usar o seguinte comando no terminal ( não testado! )
cd /path/to/photos
rename 's/DSC/'$RANDOM'/' *.jpg
Isso usa o comando perl rename para corresponder às expressões regulares e substituí-las. Neste caso, estamos substituindo "DSC" por um número aleatório no nome do arquivo para todos os arquivos .jpg. Altere o "DSC" para o prefixo de suas fotos.
outro método (também não testado) é com um script bash:
#!/bin/bash
for f in *.jpg; do
mv "$f" $RANDOM-"$f"
done