O IIS e o SQL Server não têm incompatibilidades conhecidas, são apenas dois serviços diferentes que podem ser executados na mesma máquina, desde que os recursos de hardware sejam adequados para suportar ambos os aplicativos ao mesmo tempo, e você os proteja adequadamente.
Na verdade, o Reporting Services costumava ser executado no IIS como um aplicativo da Web: é apenas com o SQL Server 2008 que se tornou um aplicativo por conta própria, não dependendo mais do IIS; antes disso, o Reporting Services exigia IIS para ser executado.
Agora, sobre sua configuração: se você deseja executar o IIS em ambos os nós do cluster, deve estar ciente de que o IIS não foi projetado para clustering, mas para balanceamento de carga; ele pode ser executado em um cluster ativo / passivo, mas você precisará executar etapas adicionais para que ele tenha um failover normalmente de um nó para outro. As etapas exatas dependem do que seu aplicativo está fazendo.