Acredito que você tenha um certificado do tipo errado que o certificado do IIS precisa para autenticar o servidor para o cliente e, portanto, precisa ter a autenticação do servidor de uso de chave que você indica ter autenticação de cliente. Sem mais detalhes é difícil dizer, mas é o que estou lendo do seu texto. O IIS não deixa você escolher como não é adequado é minha sugestão.
Onde outros modelos estão disponíveis na CA, com o Server Auth disponível?
Qual foi o tipo de CA?
Mark Sutton link