Verifique se você está usando um certificado MD5 ou não, pois o Internet Explorer 9/10/11 e o Edge abortam a conexão se o servidor fornecer uma cadeia de certificados que usa o algoritmo MD5, conforme mencionado no final de este blog :
If the server negotiates a TLS1.2 connection with a Windows 7 or 8
schannel.dll
-using client application, and it provides a certificate chain which uses the (weak) MD5 hash algorithm, the client will abort the connection (TCP/IP FIN) upon receipt of the certificate.
Pesquisando com a palavra-chave md5 tls1.2
revela essa postagem no blog Falha de handshake do TLS 1.2 , que descreve o mesmo problema em mais detalhes. Basicamente, de acordo com RFC5246 O Protocolo de Segurança da Camada de Transporte (TLS) Versão 1.2 , o MD5 não é mais considerado uma função hash segura, então schannel.dll
segue o RFC e rejeita a cadeia de certificados MD5.
Embora eu entenda o raciocínio, teria sido mais fácil solucionar o problema se a mensagem de erro tivesse sido mais específica. Portanto, eu arquivei um problema no rastreador de bugs.
A troca em um certificado SHA-256 1 deve resolver o problema.
1 SHA-1 também funcionaria, mas não é mais recomendado