Eu tive um problema semelhante e o problema era que o Gnome capturaria as chaves de mídia antes de chegarem ao VLC; para corrigir isso, você pode ir para "Preferências de > > Atalhos de teclado"
Lá você verá um cabeçalho chamado sound (Expandir se necessário) e remover as combinações de teclas desejadas no VLC (Você pode desativá-las clicando no item e pressionando backspace).
O único problema com isso é que quaisquer outros aplicativos que usam o manuseio integrado do Gnome não funcionarão mais com as chaves de mídia, a menos que você as adicione novamente (o que, por sua vez, interrompe o VLC novamente)