Provavelmente não é o que você está procurando, mas você já tentou ffmpeg2theora ?
Estou trabalhando no decodificador theora no ffmpeg V0.5. Quando tento decodificar um fluxo de bits de 422 ou 444 ogg / ogv usando o ffmpeg, a saída yuv é lixo. Quando eu verifiquei o código-fonte do ffmpeg, vi que um formato de pixel é codificado para PIX_FMT_YUV420P.
O decodificador theora no ffmpeg / libavcodec suporta a decodificação dos fluxos de bits do modo YUV422 / YUV444?
obrigado,
-AD.
Provavelmente não é o que você está procurando, mas você já tentou ffmpeg2theora ?