A maneira mais fácil de resolver isso seria entrar em vlc, clique no menu de ferramentas, em seguida, preferências verificar o allow only one instance
e use only one instance when starting form file manager
e que deve cuidar do seu problema