O Avidemux tem uma interface gráfica útil que permite redimensionar e transcodificar.
mencoder (parte do MPlayer ) pode fazer isso também, mas também é linha de comando.
Acho que a linha ffmpeg que você deseja é algo assim:
ffmpeg -s 640x360 -i in.mkv -vcodec libx264 -o new.mp4
-
-sdefine o tamanho da saída -
-ié o arquivo de entrada -
-vcodecdefine o codec de saída (consulteffmpeg -codecspara sua lista completa) -
-odefine o nome do arquivo de saída (consulteffmpeg -formatspara sua lista completa)