Salve sua legenda em um formato ASS (por exemplo, você pode criar uma com o editor Aegisub gratuito) e, em seguida, adicione as seguintes opções a mencoder :
-ass -vf ass,fixpts
Você também pode querer especificar a página de código da legenda (neste exemplo UTF-8) adicionando estas opções:
-subcp utf8 -utf8