Eu usei o ffmpeg por um longo tempo e para diferentes fins de codificação / decodificação. Eu acho muito confiável. MPlayer, Mencoder e VLC são bons players baseados na biblioteca ffmpeg, então você pode usá-los para facilitar a sintaxe e estender a funcionalidade.
E uma observação: o VLC não é apenas um ótimo player, mas também um servidor de streaming de mídia extremamente poderoso. Usando o VLC, você também pode transcodificar, compactar / descompactar vários arquivos e formatos.