Um pouco mais tarde, mas aqui está um guia bastante sólido link . No final, ele menciona:
iptables -t mangle -A OUTPUT -d <group> -j TTL --ttl-set <num>
Mas, no meu entender, você gostaria que seus switches de rede lidassem com a consulta / encaminhamento do igmp que o seu roteador usaria então.