Você precisa da opção correta para a biblioteca x264. Eu acho que é
resize:[width,height]
Dê uma olhada na página de opções x264
Parece que funciona via linha de comando porque não está usando as opções predefinidas de x264. Ao usar a predefinição, s=resolution
não é reconhecido.
ffmpeg -i input.mov -vcodec libx264 -acodec copy -s 716x402 output.flv
é diferente de
ffmpeg -i input.mov -vcodec libx264 -acodec copy -vpre "YOUR PRE FILE" output.flv
onde -s
na primeira linha é uma opção do ffmpeg enquanto na segunda linha, -s
está tentando ser usado como uma opção x264.