Você precisa de algumas citações em torno de seu %% a na invocação do ffmpeg.
~ Editar: Adicionado Script Modificado
for %%a in (%1\*.avi) do (
ffmpeg -i "%%a" -c:v libx264 -movflags +faststart -preset slow -crf 22 -b:v 500k -vf "scale=480:trunc(ow/a/2)*2" -threads 0 -c:a libfdk_aac -b:a 128k "%2/%%~na.mp4" -vf select="not(mod(n\,10))"
)