Coisa estranha: eu tentei reproduzir vários arquivos de vídeo desde a limpeza / reinstalação da vlc, e eles surgiram no temido estilo de duas janelas, mas agora sem som.
Eu verifiquei que o áudio estava habilitado em vlc (era) e que, no nível do sistema, o áudio não tinha sido definido como 0 ou mudo (não tinha sido).
Então, fiz uma pesquisa e tentei uma solução proposta: redefinir preferências em vlc. Eu fiz, e notei que Permitir apenas uma instância agora estava desmarcada. Saí vlc, cliquei em um arquivo de vídeo e bingo: uma única janela se abre, com som! É claro que tentei abrir vários arquivos de áudio e vídeo aleatórios para ter certeza de que isso não era apenas uma ocorrência única, e agora todos estão abertos conforme o esperado.
Não tenho certeza de quais são as preferências de redefinição executadas durante a reinstalação do vlc ou se Permitir que apenas uma instância seja desmarcada seja instrumental, mas funcionou! Obrigado a Robert Riedl pelo seu tempo!