Para uso em sobreposição, você pode simular o resultado pretendido usando o filtro zoompan.
Para um tamanho final (2xW, 2xH) acima de 50 quadros, use
ffmpeg -i video.mp4 -i overlaybg.mp4 -filter_complex
"[0]pad=iw*2:ih*2:color=black@0,zoompan=z='min(pzoom+0.02,2)':d=1:s=2Wx2H[scaled];
[1][scaled]overlay" output.mp4
Substitua 2Wx2H
pelos valores numéricos calculados.