O PulseAudio basicamente fica no topo do ALSA e o usa internamente. O ALSA não pode ser usado sozinho por vários aplicativos, por isso o PulseAudio fornece essa funcionalidade, entre outros.
Resumido:
- ALSA - lidando com o hardware, basicamente possuindo
- PulseAudio - um proxy de software que fornece recursos adicionais (mistura, equalizador) entre seu aplicativo e o subsistema ALSA / OSS
Este diagrama é da página da Wikipedia do PulseAudio: