Você recebe o erro "Objeto 'SET' não é suportado" porque você está usando conjunto de sites do appcmd. ou seja, os parâmetros "site e set" estão errados. O seguinte comando deve funcionar:
appcmd set site /site.name: "Name of Site" /+bindings.protocol='https',bindingInformation='*:443:NewHostHeader']
Além disso, para modificar e o cabeçalho do host existente, faça:
appcmd set site /site.name: "Name of Site" /bindings.[protocol='http',bindingInformation='*:80:OldHostHeader'].bindingInformation:*:80:NewHostHeader
O AppCmd.exe está localizado no diretório% systemroot% \ system32 \ inetsrv \. E está disponível para o IIS 7.0 e posterior.