Você precisa configurar isso dentro do VLC: Ferramentas > Preferências > Teclas de atalho em seguida, clique em "Global" e pressione a combinação de teclas de atalho.
BTW, na minha opinião o VLC não é a melhor escolha para música, é um pouco pesado em recursos para música e quando você toca \ pausa ele leva alguns segundos para parar completamente. Eu uso o Foobar 2000 (depois de tentar vários outros players de música), é muito leve em recursos (embora eu tenha visto outros ainda mais leves) e ele tem muitos plugins disponíveis.