Tanto quanto eu sei, não há como fazê-lo oficialmente através das configurações (verificadas no VLC 2.2.3).
Existem algumas soluções alternativas, a desvantagem é que nenhuma delas é perfeita:
1 - Mude a opção "Continue playback" para "Ask"
O problema é que, se você perder a notificação para "Continuar" de onde parou, precisará procurar manualmente onde estava.
Veja como alterar a configuração:
Ferramentas > Preferências > Clique em "Todos"
Interface > Opções de interface > Qt > Continue com as opções de lista suspensa de reprodução
Veja como a notificação se parece:
Ele mostra por cerca de 5 segundos. Enquanto estiver mostrando, ele já teria iniciado o arquivo desde o início (assim, ele não "aguardará" até receber um clique ou até que cinco segundos tenham passado).
2 - Use outro jogador para Música
Não é uma solução confortável se você está tão acostumado a usar o VLC. O lado bom é que existem muitos bons tocadores de música por aí, então você pode achar um que goste mais do que o VLC.
De acordo com um artigo do Lifehacker , MusicBee é muito bom. Eu sei que o Winamp foi muito bom, mas eles foram desligados há algum tempo.
Nota: Pode haver outras maneiras de fazê-lo não oficialmente. Talvez modificando o código-fonte.