Execute alsamixer -c 0
no seu console e use as teclas de seta para brincar com os volumes.
Para mim: Configurar o Master para um valor em que a qualidade do som fosse boa o suficiente o tornava muito baixo. Configurar o Master para o máximo, diminuindo o PCM para 81 e definindo todo o resto para 0, resolveu o problema.
UPDATE: (para o Ubuntu 10.10) Clique no ícone do volume no canto superior direito, depois clique em Sound Preferences e certifique-se de que o Volume de saída não vá acima de "Unamplified". Em seguida, clique no ícone de volume novamente e veja onde o medidor de volume está posicionado. Esse é o volume máximo que você deve definir para ouvir um som claro.
OR: (para o Ubuntu 10.10) Clique no ícone de volume no canto superior direito, depois clique em Preferências de Som, defina o volume principal como 100% e defina o volume para cada aplicativo para um nível mais adequado. Cada vez que você abre um aplicativo que precisa usar o som pela primeira vez, é necessário fazer isso (porque os aplicativos que não atualmente usam som não aparecem nessa lista).
Você atualmente tem que escolher entre irritante e complicado: (