No mencoder da frente do software livre deve ser capaz de fazer isso como referenciado aqui: link
Tenho certeza que o mencoder (parte do mplayer) é o caminho a ser seguido. Ele deseja gerar arquivos .avi por padrão. A documentação do mencoder é bastante envolvida e não está completa, mas é muito poderosa.
Veja como eu faria uma codificação de duas passagens em vídeo mpeg4 de 1000 kbps e áudio mp3 de 128 kbps:
$ mencoder movie.vob -sid 0 -aid 128 -ovc lavc -lavcopts codec=mpeg4:vhq:vbitrate=1000:vpass=1 -oac copy -o /dev/null
$ mencoder movie.vob -sid 0 -aid 128 -ovc lavc -lavcopts vcodec=mpeg4:vhq:vbitrate=1000:vpass=2 -oac mp3lame -lameopts cbr=128 -o movie.avi
A sinalização -sid 0 acima designa o ID da legenda 0. A sinalização 128 -aid designa o ID 128 de áudio. Tente o mplayer -v movie.vob com números diferentes de -sid e -aid para obter as legendas e o áudio corretos.
outra maneira de fazer isso é aqui: link