Se a solicitação inicial for roteada e retornada corretamente pelo nome de domínio, isso soa como algo dentro do próprio aplicativo que está redirecionando o usuário para o IP. Não é provável que a configuração do servidor dns ou iis esteja causando isso, mais provavelmente o código real do site ou talvez os cabeçalhos especiais que ele está retornando estão redirecionando o navegador.