Você está fazendo uma codificação de dois passos, mas ainda não fez um primeiro passo (o que teria criado o arquivo de log). Além disso, você está usando algumas opções que são ambíguas.
Se você não precisa de um tamanho de arquivo de destino específico, uma codificação de duas passagens é desnecessária.
Tente isto:
ffmpeg -i 10.mp4 -c:v mpeg4 -vtag xvid -qscale:v 3 -c:a libmp3lame -b:a 128k -vf scale=640:360 10.avi
-qscale:v 3
especifica a qualidade de vídeo desejada, 1 seria muito alta qualidade / tamanho de arquivo grande, 31 a menor qualidade / tamanho de arquivo pequeno
Para uma codificação de 2 passos, consulte exemplo no wiki ffmpeg .