Isso é tudo sobre confiança.
Digamos que você visite um site popular que apresenta um certificado. Este é o site que diz "Isto é quem eu sou, você pode confiar em mim, porque eu tenho esta carta de apresentação assinada por alguém em que você confia."
Nesse caso, o "alguém em quem você confia" é uma das autorizações de certificado que realizaram (esperamos) o trabalho de perna para estabelecer a identidade do apresentador do certificado em seu nome.
O que você realmente confia é a confiança do autor do navegador na confiança da autoridade de certificação na identidade da pessoa que apresenta o certificado. Há também muitas vezes mais de uma autoridade entre você e o apresentador, daí o termo: "Cadeia de Confiança". [1]
Quando você assina seu próprio certificado, não há uma cadeia de confiança. Seu site está apresentando seu próprio certificado de volta para você. Se você instalar seu próprio certificado em seu navegador como um que você confia, isso será tratado como uma autoridade, a mesma que vem pré-instalada. Você então tem uma cadeia de confiança com apenas um link.
Se você visitar seus sites e seu navegador avisar que está apresentando um certificado não confiável, você deve ter motivos para preocupação, pois, como em qualquer outro site que apresente um certificado não confiável, você pode Certifique-se de estar se comunicando com o site real.
Note que eu não fiz menção de criptografia, ainda. Os certificados são sobre autenticar a identidade da parte com quem você está se comunicando. Através de certificados confiáveis, há uma maneira de você estar razoavelmente seguro de que sua loja ou seu banco é o real. Depois de estabelecer sua identidade, garantir as comunicações entre você é o próximo passo. Acontece que os certificados também contêm dentro deles as chaves necessárias para facilitar essa segurança. Supondo que você tenha configurado seu SSL corretamente, então essa comunicação é tão segura quanto a que você teria com sua loja ou banco, e suas senhas são igualmente protegidas. [2]
[1] Este não é de forma alguma um sistema sem falhas. Um mercado livre e um negócio de baixa margem e alto volume inevitavelmente levam ao corte de custos: link
[2] Pelo menos, protegido o suficiente de que seja muito mais barato alguém invadir sua casa, tire seus segredos de você em vez de tentar quebrá-los: