Não estou familiarizado com o "clustering do tomcat", mas para ter um cluster de servidores IIS em uma máquina, é necessário executar algumas máquinas virtuais com as mesmas versões do Windows Server e do IIS.
Existem inúmeros howto sobre o clustering do IIS para o failover ou load-balancing . Duas instalações do servidor IIS (completo) em um sistema operacional não são suportadas. Os pools de aplicativos no IIS devem fornecer separação suficiente (os pools de aplicativos são executados em seus próprios processos). Pode ser possível hospedar várias instâncias de iis Express (não tenho certeza, nunca tentei), mas você não terá nenhuma funcionalidade de cluster.
Quais são seus requisitos? Por que você precisa do IIS? E que tipo de agrupamento você precisa? Balanceamento de carga ou failover para 100% de tempo de atividade durante a atualização?