Cenário interessante, você precisa dizer ao IIS para não vincular a 192.168.5.12. Você pode verificar com o netsh se o IIS está vinculado a esse IP.
Aqui está uma entrada de blog que faz exatamente o que você também tenta: link
Eu tenho uma máquina IIS com três IPs, 192.168.5.10 - .12. Estou executando dois sites diferentes baseados em SSL em .10 e .11, porta 443. Tudo está bem.
Eu já instalei outro servidor da Web em minha máquina e estou tentando fazer com que ele escute na porta 443 no endereço IP .12. Infelizmente, o IIS e o outro servidor se recusam a cooperar, embora os IPs vinculados sejam diferentes. Ambos acham que há um conflito com essa porta.
Existe alguma maneira de fazer o IIS funcionar bem com o outro servidor?
Cenário interessante, você precisa dizer ao IIS para não vincular a 192.168.5.12. Você pode verificar com o netsh se o IIS está vinculado a esse IP.
Aqui está uma entrada de blog que faz exatamente o que você também tenta: link