Você tem o Apache e o nginx configurados para escutar na porta 443.
Parece que sua intenção é fazer com que o nginx assuma o controle dessa porta, portanto, você desejará remover essa configuração do Apache e reiniciar ambos os serviços: primeiro o Apache, depois o nginx. Isso deve permitir que o nginx associe à porta 443 e atenda a essas solicitações.
Quanto à senha do certificado, o nginx não suporta salvar a frase secreta para chaves privadas descriptografadas no arquivo de configuração (bom para elas; a obscuridade garantida por isso é inútil). Descriptografe a chave privada (e certifique-se de que ela seja legível apenas pelo usuário em que o nginx está sendo executado):
mv /www/certs/site.com.key /www/certs/site.com.keyold
openssl rsa -in /www/certs/site.com.keyold -out /www/certs/site.com.key