Eu entendi! É causada pela decodificação multithread que habilitei. Por alguma razão, o b0rks decodifica MPEG-2. Se eu remover a configuração (ou usar -lavdopts threads=1 ) está tudo bem.
Para ser franco, o mplayer é incapaz de reproduzir corretamente DVDs de vídeo. Parece encontrar corretamente o título e tudo, mas a imagem está quebrada ou não é exibida, com mensagens como:
a52: CRC check failed!
a52: error at resampling
[mpeg1video @ 0xa8d840]sequence header damaged
[mpeg1video @ 0xa8d840]Missing picture start code
Agora, tudo isso está no sistema amd64 Gentoo Linux. Acredito que o problema não está no próprio mplayer, já que a reprodução também quebra no VLC ou quando copio os VOBs via vobcopy e tento reproduzi-los depois.
Eu uso libdvdcss-1.2.10 e libdvdread-4.1.3_p1168 (estáveis no Gentoo), e tentei versões anteriores de ambas as bibliotecas, mas isso não mudou nada.
Os DVDs que eu tentei reproduzem bem no DVD player normal ou em um laptop Windows. Lembro-me da reprodução usada há cerca de um ano e não sei o que tentar em seguida. Qualquer sugestão seria bem-vinda.