Existe um problema já relatado que afeta a maioria dos aplicativos usando o vaapi em uma sessão do Wayland.
Os detalhes do bug são relatados aqui com algumas soluções alternativas: link
Você também pode evitar o problema não usando a sessão do wayland, usando o Gnome / ubuntu no X.org ou usando o Unity.