AdsUtil.VBS é seu amigo:
adsutil.vbs set W3SVC/1/root/AuthNTLM true
adsutil.vbs set W3SVC/1/root/AuthAnonymous false
adsutil.vbs set W3SVC/1/root/AuthBasic false
adsutil.vbs set W3SVC/1/root/AuthPassport false
adsutil.vbs set W3SVC/1/root/AuthMD5 false
Qual é o mesmo que:
adsutil.vbs set W3SVC/1/root/AuthFlags 5
Observe que < 1 > é o seu ID do site.
Para CustomErrors, você precisa atualizar o campo root / HTTPErrors que, na verdade, é um item LIST. David Wang tem o roteiro apropriado para isso: chglist.vbs
chglist.vbs W3SVC/1/HttpErrors 404 404,*,URL,/CustomErrors/404.asp /COMMIT
Para arquivos individuais, você pode adicioná-los após o / Root / Path:
adsutil.vbs set W3SVC/1/root/MyFile.txt/AuthFlags 5