Você conectou dois fones de ouvido e testou isso? Se puder ser controlado, teria que ser feito no software Soundblaster. O Windows só pode realmente manipular um dispositivo de saída de cada vez. Se eu tivesse que adivinhar, era apenas um divisor simples.
Se você deseja ter controle de volume separado para vários canais (1 para mestre, 1 para monitor), será necessário obter um amplificador de fone de ouvido. Você tem muitas opções disponíveis. Tudo depende do custo.
Eu tenho um Amplificador de Headset Discreto de 4 Canais PreSonus HP4 que funciona muito bem, mas pode ser um pouco mais do que você precisa. Existem opções mais baratas se você estiver com orçamento limitado. Se você pesquisar, pode até encontrar um pré-amplificador de microfone com uma porta de monitor incluída . Essa provavelmente seria sua melhor aposta.
De minhas próprias experiências, as soluções de som integradas por computador são projetadas para lidar com um canal estéreo de som. As únicas vezes em que obtive êxito com vários canais é quando uso dispositivos de hardware externos que usam o método de comunicação ASIO . Embora você possa conseguir que algo funcione, quase posso garantir que um pouco de hardware ajudará bastante no trabalho com som.
Espero que isso ajude