O multicast é super simples se tudo estiver na mesma rede local (ou seja, a mesma sub-rede IPv4 e o mesmo domínio de difusão / difusão seletiva Ethernet).
Basta escolher um endereço não utilizado do bloco de controle multicast link-local (224.0.0.0/24), como o endereço experimental 224.0.0.254. A máquina que envia o fluxo de música multicast irá enviá-lo para esse endereço (ou seja, 224.0.0.254 será o endereço de destino). O endereço de origem será o próprio endereço unicast IPv4 dos remetentes da transmissão.
Os receptores não precisam de endereços multicast próprios. Eles apenas abrem soquetes do ouvinte UDP, ligam-nos ao endereço multicast que desejam ouvir e usam o setsockopt para informar ao kernel que desejam se juntar a um grupo multicast.
Eu não acho que você precise mexer com o MADCAP até chegar ao ponto de querer que esse streaming funcione em sub-redes.