Você não pode usar redirecionamentos de shell em find -exec .
xargs é padronizado para echo ... mas como você já possui cd no diretório, podemos simplificar substancialmente a última linha e nos livrar de xargs e sed .
cd /var/myfolder &&
find ./ -name "*.*" -exec ffmpeg -i {} -c:v h264 -crf 1 -flags +cgop -g 30 -hls_time 1 -hls_list_size 0 {}.m3u8 \; 2>&1 > /dev/null &&
printf 'file %s\n' *.m3u8 > /var/myfolder/playlist.txt &&
echo done