Existe alguma maneira de silenciar apenas um programa enquanto ouve um arquivo de áudio no VLC (por exemplo) no Windows 7?
Sim. Abra o mixer de volume a partir do controle de áudio principal na bandeja do sistema.
Quando você clica nele, você obtém o volume principal, mas há uma opção para o mixer. Isso permite que você controle cada nível de aplicativo individual (que está emitindo áudio).
Note que ele irá se lembrar dessas configurações, então se você silenciar o programa A, depois de fechá-lo, A não estará no mixer (sem saída de corrente), mas da próxima vez que você executar A, ele estará em execução.
Para fazer isso a partir da linha de comando, você pode tentar o nircmd: link
nircmd muteappvolume vlc.exe 1
Sim, clique com o botão direito do mouse no ícone de controle de volume na bandeja do sistema e selecione "Open Volume Mixer" no menu pop-up. Você pode definir configurações de volume individuais (incluindo mudo) para cada programa que está aberto.
Tenha em atenção que o Windows memoriza estas definições, pelo que poderá ser educado ativar o programa quando terminar.