O que você está fazendo terá efeito, mas há vários problemas:
-
Os navegadores e sistemas operacionais armazenam em cache as pesquisas de DNS. Eles não necessariamente causam uma pesquisa de DNS completa sempre que um site é carregado.
-
Alguns navegadores podem tentar coisas alternativas se o DNS parecer bloqueado (como, por exemplo, entrar em contato com seu próprio servidor DNS), porque eles acham que há um problema de rede. O Google Chrome pode fazer isso.
-
O Google Chrome e outros navegadores podem em breve implementar "DNS sobre HTTPS", o que significa que fazer qualquer coisa na porta 53 não teria nenhum efeito, pois não usaria isso para o DNS.
-
O bloqueio por endereço IP funcionará por algum tempo até que o endereço IP do YouTube seja alterado por algum motivo.
-
Os usuários experientes podem alterar os servidores DNS, a menos que você tenha bloqueado essa capacidade administrativamente em seus sistemas.
How I can force youtube to be blocked immediately?
A maneira "certa" de fazer o que você quer é instituir um proxy transparente de interceptação HTTPS "Man-In-The-Middle" que possa filtrar o tráfego HTTPS. Você então diz ao proxy para bloquear qualquer URL com youtube.com
.
Você não pode simplesmente procurar por youtube.com
em 443 como está criptografado, como você provavelmente descobriu.
Um com o qual você pode brincar em uma máquina local para ver como funciona é o Burp Proxy - serve para testar, não para gerenciar o tráfego de muitos usuários. Mas permitirá que você aprenda os conceitos.
Você precisará instalar o certificado SSL do proxy em cada máquina que usar o proxy para evitar avisos de segurança.