Estou usando o Ubuntu 17.10 no Wayland. Se eu clicar com o botão direito em um vídeo mp4 e selecionar "play video" (com Videos öffnen) eu recebo som, mas uma tela preta. Se eu abrir o vídeo com o VLC, tudo vai bem. Se eu iniciar o Ubuntu no Xorg e clicar com o botão direito do mouse em um vídeo mp4 e selecionar "reproduzir vídeo", o reprodutor totem também funciona bem.
O pacote ubuntu-restricted-extras está instalado na versão mais recente.
Então, em conclusão, o jogador totem não tem nenhuma imagem no Ubuntu 17.10 no Wayland, mas funciona bem no Xorg.