Não. O firewall do Windows não se comporta como outros firewalls conhecidos. Um BLOCO sempre será avaliado antes de uma ALLOW. No entanto, a regra de bloqueio acima é desnecessária - o bloqueio é a abordagem padrão.
Fonte: link
Minha última frase está incorreta, pois eu não entendi a pergunta original. Na janela "configurações avançadas", clique com o botão direito do mouse - > Propriedades no 'Firewall do Windows com Segurança Avançada' no painel superior esquerdo. Defina 'Conexões de saída' de 'Permitir (padrão)' para 'Bloquear' no perfil que você estiver usando. Exclua a regra de bloqueio que você fez. Em seguida, bloqueará a saída por padrão.