A variável $RANDOM
(na verdade, uma função bash) retorna um número aleatório de 0 a 32767, inclusive.
Normalmente, você deseja limitar o intervalo dividindo-o por um número e recebendo o restante, por exemplo,
# output a random number 0 to 3
echo $((RANDOM % 4))
Neste exemplo simplista, será um pouco tendencioso para qualquer divisor que não se divida igualmente em 32768 (por exemplo, qualquer coisa que não seja um poder de dois), mas no seu cenário eu não acho que você d ser incomodado por um ligeiro viés.
Para escolher um arquivo aleatório, você nomearia seus arquivos como:
file0.jpg
file1.jpg
file2.jpg
file3.jpg
E então você pode escolher um aleatório com
# output a random file from file0.jpg to file3.jpg
echo "file$((RANDOM % 4)).jpg"