Eu tive um problema muito parecido com o seu, até mesmo os menus estavam sendo bloqueados pelo vídeo. Além disso, quando estiquei a tela, o vídeo ficou do mesmo tamanho e não se alongou.
Se isso soa como a mesma situação que você, eu fui capaz de corrigir por meio dessa outra resposta SO ( VLC não exibe vídeo corretamente em Tela Cheia? )
resposta @Huang Dongsung:
Em Ferramentas > Preferências > Vídeo > Mudança de saída para "saída de vídeo OpenGL GLX (XCB), salvar e reiniciar vlc.
Se você usar a Intel GPU, siga as configurações para acelerar a decodificação. Em Ferramentas > Preferências > Entrada / Codecs > Codificação de decodificação acelerada por hardware para "decodificador de vídeo VA-API via X11"