De acordo com a documentação aqui,
Para permitir isso, você normalmente precisa do pacote de desenvolvimento libvdpau em sua distribuição e de uma placa gráfica compatível.
Observe que o VDPAU não pode ser usado para decodificar quadros na memória, os quadros compactados são enviados pelo libavcodec para o dispositivo GPU suportado pelo VDPAU e, em seguida, a imagem decodificada pode ser acessada usando a API VDPAU. Isso não é feito automaticamente pelo FFmpeg, mas deve ser feito no nível do aplicativo (verifique, por exemplo, o arquivo ffmpeg_vdpau.c usado pelo ffmpeg.c). Além disso, observe que com essa API não é possível mover o quadro decodificado de volta para a RAM, por exemplo, caso você precise codificar novamente o quadro decodificado (por exemplo, ao fazer a transcodificação em um servidor).
Diversos decodificadores são suportados atualmente pela API VDPAU no libavcodec, em particular H.264, MPEG-1/2/4 e VC-1.
A saída de mediainfo videofile
deve esclarecer se o codec em uso é suportado, no entanto, a tabela FFMpeg IMplementations na documentação mencionada acima indica que o VDPAU está obsoleto por motivos técnicos e não deve ser usado.
Não tenho mais nada a acrescentar, mas espero que esta informação seja útil do mesmo modo.