Primeiro, você deve definir o fator de zoom, pois, por padrão, ele é definido como 1.0. Eu pude fazer assim:
ffmpeg -loop 1 -i image_1.jpg -vf "zoompan=z='if(lte(zoom,1.0),1.5,max(1.001,zoom-0.0015))':d=125" -c:v libx264 -t 5 -s "800x450" zoomout.mp4
Que começará a aumentar em 1,5 e diminuirá 0,0015 a cada iteração. Observe que o valor 1.001 foi usado (qualquer valor maior que 1.0) para garantir que ele não fosse zerado após 1.0 e redefinido para 1.5.
Outra solução poderia ter sido simplesmente inverter a saída do seu zoompan original, mas depois de uma pesquisa rápida, inverter o vídeo parece ser um grande esforço no ffmpeg.