No pacote imagemagick existe um programa chamado mogrify que irá sobrescrever o arquivo de imagem original, e outro, convert , que gravará em um arquivo diferente arquivo de imagem.
No Linux, há outro comando, find , que pesquisará (e localizará) todos os arquivos em um caminho que preenche os critérios de pesquisa e que pode exec ute algum comando com o nome do arquivo encontrado.
Warning: I strongly suggest to do a backup before starting to use a script that will modify the original files, just to prevent any unpleasant inconvenience that you cannot fix after...
Moreover I suggest you to test the command on a sample (only on some files and not on all).
Entendo que você deseja substituir todas as suas imagens por uma versão de qualidade inferior.
Mesclando o comando acima, você pode fazer algo semelhante a
find Path/to/MyFolder -name '*.jpg' -exec mogrify -quality 80 {} \;
Use man mogrify e man find para ter mais algumas dicas.