A estrutura do DirectShow não usa as configurações especificadas pelo Windows para dispositivos padrão, portanto, alterar suas opções das configurações de som do Windows não afetará o DirectShow.
O VLC está, na verdade, apenas enumerando os dispositivos no sistema e selecionando o primeiro dispositivo de áudio que encontra. Você pode simplesmente selecionar o dispositivo específico que deseja usar no menu suspenso ou, alternativamente, desativar os dispositivos de áudio que não deseja usar até que o que deseja seja o primeiro da lista.