Eu tive problemas semelhantes com o Thunderbird no Mac OSX e um novo certificado StartSSL. O Thunderbird usa OCSP para validar os certificados e falha silenciosamente neste caso especial. Além disso, o servidor StartSSL OCSP precisa de algum tempo para atualizar o catálogo de certificados conhecidos (compare com o link ).
Para verificar se o OCSP é a causa do problema, desative-o temporariamente e tente conectar-se novamente ao seu servidor.
Preferências - > Avançado - > Certificados - > Validação - > Desmarque a opção "Usar o OCSP (Online Certificate Status Protocol) para confirmar a validade atual dos certificados"