Idealmente, você quer fazer isso no roteador com QoS. Existem vários firmwares de código aberto que fazem isso muito bem (veja Tomato ou DD-WRT ).
Não parece que o seu roteador suporte esses firmwares, mas ele fornece alguns nível de QoS (consulte a seção 4.7.2 do manual ). Faça algumas pesquisas sobre como configurar o QoS para o youtube e veja se você pode aplicar essas regras nas configurações do seu roteador.