OK, eu encontrei mpv
(um fork do mplayer) que faz tudo que eu queria e carregava todas as boas qualidades de UI do mplayer2.
Para ativar o suporte a vaapi, execute-o com mpv --vo=opengl-hq --hwdec=vaapi file.mkv
ou adicione
vo=opengl-hq
hwdec=vaapi
para ~/.config/mpv/mpv.conf
.
Anteriormente, a resposta sugeria o uso de vo = vaapi e hwdec = vaapi, mas isso não é mais uma configuração recomendada. Ver comentários.