A maneira mais fácil de silenciar um programa específico com o AHK é fazer o download do Nircmd , copie para o diretório windows tem um botão quando você roda o exe) e adapta o seguinte
WinGet, WinProcessName, ProcessName, A
run nircmd muteappvolume %WinProcessName% 2