Eu tive esse problema com o Firefox. Acontece que (de acordo com ssllabs.com , meu navegador suporta somente as seguintes curvas EC: x25519 , secp256r1 , secp384r1 secp521r1 .
O certificado que eu tinha gerado (conforme inspecionado pelo OpenSSL) usa uma curva diferente:
Subject Public Key Info:
Public Key Algorithm: id-ecPublicKey
Public-Key: (570 bit)
pub:
04:[...]
ASN1 OID: sect571k1
Observe o nome da curva acima: sect571k1
Eu criei meu certificado usando keytool do Java e, evidentemente, ele suporta mais curvas do que meu navegador. O Firefox parece não ter reclamações ao importar o certificado. Parece que a "curva não suportada" seria uma mensagem de erro fácil de fornecer aos usuários.
Alterar o certificado para usar uma curva suportada pelo navegador corrigiu as coisas para mim.