Você poderia tentar usar o avconv? AFAIK, eles compartilham muitos dos mesmos codificadores, então isso irá testar se o problema é um problema específico do mencoder. Para copiar todos os fluxos, use:
avconv -i input.avi -c copy output.avi
(obviamente, use qualquer extensão de arquivo apropriada às suas necessidades)