É não-trivial, mas você pode rodar o seu próprio nameserver de caching com sua zona onw configurada para o Youtube. (Existem algumas maneiras de fazer isso, se o seu roteador der suporte a dd-wrt, isso é um bom primeiro passo. Você quer assegurar que você pode usar um servidor de nomes diferente e ele não pode ou ir all-in e fazer split DNS baseado em seu IP!).
Dito isso, em vez de tentar impedi-lo de assistir ao Youtube, por que não chegar à raiz do problema - seu uso de largura de banda. Se você conseguir embutir o dd-wrt (ou o seu roteador tiver QoS), coloque-o em um pool de largura de banda de prioridade mais baixa. Isso resolve a classe do problema, em vez de incentivá-lo a mudar para outro serviço de streaming.