Encontrado o soulution:
mencoder inputFile -ovc xvid -xvidencopts pass=1:threads=4 -oac mp3lame -lameopts vbr=3 -o outputFile.avi
(substitua o número de threads do seu, ou se você tiver um único segmento descartar ": threads = 4")
Eu tentei tanto para o arquivo avi que não pude jogar antes, quanto para o arquivo mkv. Ambos jogam bem no meu leitor de DVD (Sony) após a transcodificação acima. Ambos os arquivos ficaram um pouco mais pesados após a transcodificação:
-
avi: 1.5G - > 1,6G
-
mkv: 1,4G - > 2.1G