Use
ffmpeg -i background.avi -loop 1 -i image.png \
-filter_complex
"[1:v]scale=8000x4000,setsar=1/1,zoompan=z='if(gte(in,125),min(pzoom+0.005,10),1)':d=1:s=530x680,
trim=duration=3[v1];[0:v][v1]overlay=20:20"
-c:v libx264 output.avi
Como você está aplicando isso em um vídeo, pzoom é a variável correta a ser usada. d
deve ser definido como 1, pois representa a duração do intervalo do efeito de zoom para cada quadro individual . Certifique-se de usar uma versão recente do ffmpeg. Houve um erro nas versões anteriores, onde o pzoom não funcionava corretamente.