Antes de escrever seu próprio driver de dispositivo, o mais próximo que posso encontrar é usar uma solução de cabo de áudio virtual (existem muitas alternativas) para que cada aplicativo seja reproduzido em um dispositivo separado. Então você pode manipular os dados de cada aplicativo separadamente.
Além disso, você pode usar o PulseAudio se tiver o código-fonte dos aplicativos que você precisa capturar, pois ele tem um monitor por fluxo.