Você provavelmente seria o melhor procurando em uma biblioteca de terceiros, algo como OpenTok ou Peer5.
Eles fornecem a capacidade de gerenciar grandes fluxos de multicast usando uma solução de rede híbrida (p2p / servidor), que distribui a carga de trabalho entre os colegas, minimizando a dependência de um único servidor.