Você precisa adicionar condições que correspondam a HTTP_HOST à sua regra (a variável "url" no URL Rewrite não inclui o nome do host).
<globalRules>
<rule name="Redirect to HTTPS" enabled="true" stopProcessing="true">
<match url="(.*)" />
<conditions>
<add input="{HTTP_HOST}" pattern="(.+)\.test\.com" />
</conditions>
<action type="Redirect" url="https://{C:0}/{R:0}" />
</rule>
</globalRules>
Esta regra deve redirecionar todas as solicitações em * .test.com para HTTPS.