... to renew my SSL certificate ...
[warn] RSA server certificate is a CA certificate (BasicConstraints: CA == TRUE !?)
[warn] RSA server certificate CommonName (CN) 'proposify' does NOT match server name!?
It's a wildcard certificate for *.domain.com (same as before). What am I doing wrong?
Suas declarações não correspondem às mensagens de erro. Como você está renovando, o certificado provavelmente não é autoassinado, portanto, ele não deve ser um certificado de CA, conforme mostrado pela mensagem de aviso. Além disso, o segundo aviso mostra que o certficate não parece corresponder ao nome do host.
Verifique o conteúdo dos seus arquivos de certificado com openssl x509 -text
ou ferramentas semelhantes.