Você tem o recurso certo, não é muito claro como usá-lo para fazer o que você precisa. Você pode realmente usar o recurso de Restrições de endereço IP e de domínio para restringir o acesso a uma única pasta, simplesmente não há nenhuma interface do usuário que torne óbvio que você está fazendo isso.
Primeiro, você destaca a pasta que deseja restringir o acesso (admin, neste caso) no Gerenciador do IIS e, em seguida, todas as regras adicionadas usando o recurso Endereço IP e restrições de domínio serão aplicadas somente a essa pasta.
Assim, depois de destacar a pasta, defina o padrão do recurso para negar tudo, adicione uma entrada para permitir sua sub-rede e você será definido.