Você já tentou limpar o pacote vlc e reinstalá-lo, com:
sudo apt remove --purge vlc -y && sudo apt install vlc -y
Lá, onde algumas atualizações relacionadas a drivers de vídeo, após o qual eu tenho esse problema com o VLC.
Note que, eu tenho um vídeo pausado (no VLC) durante o processo de atualização, e depois de concluído, esse vídeo pode ser reproduzido normalmente. Mas qualquer outro arquivo de vídeo que eu abrir com o VLC será assim:
Eu tentei desativar Saída de Vídeo Acelerada (Overlay) e Descodificação Acelerada por Hardware , mas permaneceu o mesmo.
Totem reproduz bem o vídeo.
Registre-se no dia indicado:
Start-Date: 2017-01-18 18:03:34
Commandline: aptdaemon role='role-commit-packages' sender=':1.189'
Upgrade: dbus-x11:amd64 (1.10.6-1ubuntu3.1, 1.10.6-1ubuntu3.3), libgles2-mesa:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), libdbus-1-3:amd64 (1.10.6-1ubuntu3.1, 1.10.6-1ubuntu3.3), libdrm-nouveau2:amd64 (2.4.74+git1701131830.e1ee01~gd~x, 2.4.74+git1701161830.5856a5~gd~x), libgles1-mesa:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), dbus:amd64 (1.10.6-1ubuntu3.1, 1.10.6-1ubuntu3.3), libglapi-mesa:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), overlay-scrollbar-gtk2:amd64 (0.2.17.1+16.04.20151117-0ubuntu1, 0.2.17.1+16.04.20151117-0ubuntu1.16.04.1), libxatracker2:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), libegl1-mesa:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), overlay-scrollbar:amd64 (0.2.17.1+16.04.20151117-0ubuntu1, 0.2.17.1+16.04.20151117-0ubuntu1.16.04.1), initramfs-tools-bin:amd64 (0.122ubuntu8.7, 0.122ubuntu8.8), libgbm1:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), libwayland-client0:amd64 (1.9.0-1, 1.11.0-2~gd~x), apport:amd64 (2.20.1-0ubuntu2.4, 2.20.1-0ubuntu2.5), libdrm-amdgpu1:amd64 (2.4.74+git1701131830.e1ee01~gd~x, 2.4.74+git1701161830.5856a5~gd~x), python3-apport:amd64 (2.20.1-0ubuntu2.4, 2.20.1-0ubuntu2.5), libwayland-egl1-mesa:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), libdrm2:amd64 (2.4.74+git1701131830.e1ee01~gd~x, 2.4.74+git1701161830.5856a5~gd~x), libgl1-mesa-dri:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), libgl1-mesa-glx:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), apport-gtk:amd64 (2.20.1-0ubuntu2.4, 2.20.1-0ubuntu2.5), libdrm-intel1:amd64 (2.4.74+git1701131830.e1ee01~gd~x, 2.4.74+git1701161830.5856a5~gd~x), libdrm-radeon1:amd64 (2.4.74+git1701131830.e1ee01~gd~x, 2.4.74+git1701161830.5856a5~gd~x), mesa-vdpau-drivers:amd64 (17.0~git1701130730.64272d~gd~x, 17.0~git1701180730.aa291c~gd~x), python3-problem-report:amd64 (2.20.1-0ubuntu2.4, 2.20.1-0ubuntu2.5), initramfs-tools-core:amd64 (0.122ubuntu8.7, 0.122ubuntu8.8), initramfs-tools:amd64 (0.122ubuntu8.7, 0.122ubuntu8.8), libwayland-server0:amd64 (1.9.0-1, 1.11.0-2~gd~x), libwayland-cursor0:amd64 (1.9.0-1, 1.11.0-2~gd~x)
End-Date: 2017-01-18 18:06:19
EDIT: Houve mais algumas atualizações, ontem e hoje, e depois da última, o VLC funciona normalmente de novo.
Você já tentou limpar o pacote vlc e reinstalá-lo, com:
sudo apt remove --purge vlc -y && sudo apt install vlc -y