É tudo sobre multiplexação.
I don't need to multiplex sounds from or to several sound cards
Ah, mas você faz! Se você quiser reproduzir áudio de duas fontes de uma só vez, por qualquer motivo, precisa de multiplexação.
O OSX e o Windows tratam da multiplexação no kernel (mas ainda no software), e é por isso que isso nunca / raramente aparece nessas plataformas.
No entanto, no Linux, com software como o ALSA, a multiplexação é deixada para a placa de som / implementação / driver específico.
Infelizmente, nem todos os cartões e todos os drivers suportam isso imediatamente.
É aí que o PulseAudio entra, fazendo a multiplexação no software, independentemente da situação da sua placa de som / driver.
Sem essa funcionalidade, se você dissesse, usando o ALSA diretamente sans-PulseAudio, com uma placa de som com baixo suporte a multiplexação PCM no Linux, você só conseguiria ouvir o som de um aplicativo por vez.
Por exemplo se você tivesse um vídeo reproduzido em seu navegador da Web e recebesse uma notificação no Pidgin, não ouviria o som de notificação porque seu navegador da web já teria controle sobre sua placa de som.
Ao rotear todo o som pelo PulseAudio primeiro, esse problema é evitado.
Fonte: Uma longa conversa sobre IRC que tive com o mantenedor do Ubuntu para a ALSA, onde perguntei exatamente a mesma pergunta que você está fazendo agora.