Pelo que entendi, você configurou ambos os sites para usar SSL no mesmo IP: port?
Em geral, somente um certificado pode ser vinculado a um par de portas IP, a menos que o servidor seja capaz de Indicação do nome do servidor (nginx é) e configurado para suportá-lo (o Internet Explorer o suporta da v7, eu acredito).
Tente configurá-lo: link ... ou vincule o subdomínio a um diferente IP: par de portas (ou seja, o mesmo IP, mas porta diferente (por exemplo, 45454) ou IP diferente).