Isso não é possível (como o Linux faz) no OS X. No entanto, existem algumas alternativas que você pode tentar. Uma seria redirecionar determinados aplicativos para "nulo", para que você não os ouça, ou outro resultado de som que tenha um nível mais baixo. Tudo isso é possível com Jack , um pequeno utilitário gratuito.
O que eu fiz foi basicamente abrir o arquivo de som New Mail com um editor de áudio e reduzir drasticamente o nível. :) (Sim, é ruim, mas funciona!)