O problema é que a negociação de SSL é feita antes dos cabeçalhos de host serem enviados, portanto, você pode ter apenas um certificado SSL por endereço IP. É por isso que você está recebendo o certificado inválido em b.mysite.com
existem duas maneiras de lidar com isso:
- Obtenha um certificado de curinga para * .mydomain.com
- Atribua um segundo IP ao servidor e execute b.mysite.com com este segundo IP com o certificado adequado.