mrouted
é a única solução da qual estou ciente.
Na grande tradição da família de sistemas operacionais BSD: "O código fonte está lá - Sinta-se à vontade para modificar o mrouted e enviar um patch".
(Na realidade: não consigo pensar em por que você precisa de tantas VLANs e deseja enviar multicast para todas elas. Escolha e escolha, refatorie sua rede para ser menos complexo ou invista em redes dedicadas engrenagem que pode fazer o que você precisa - Cisco ou Juniper podem ter algo adequado para isso ...)