Se você estiver usando uma capa personalizada, percebi que a opção "Mostrar ícone systray" não estará visível. Mesmo que você tenha selecionado antes de mudar o estilo nativo para skin personalizado, a opção será ignorada.
O ícone deve reaparecer se você voltar ao estilo nativo, marcar a caixa de seleção relevante e reiniciar o VLC.