As opções no mplayer / mencoder podem ser confusas. Eu não posso dizer que eu entendi todos eles ainda, mas eu encontrei um roteiro em link que orienta você através dos parâmetros de inicialização e, em seguida, configura uma linha de comando para fazer o que eu acho que você quer fazer.
De improviso, eu diria que você tem um tipo no parâmetro do driver (deve ser o driver, não o drilver) e está faltando o parâmetro do dispositivo (driver = / dev / video0)