Algumas coisas vêm à mente:
- O nome especificado para o SQL Server (sqlserver.mydomain.com) não corresponde ao nome no certificado (sqlserver.mydomain.net, por exemplo).
- O certificado é emitido por uma autoridade de certificação em que o cliente não confia.
Esse é o caso?