Você não está apenas criptografando a mensagem com a chave pública do usuário, mas também com sua própria chave privada. Dessa forma, você pode garantir que apenas o destinatário pretendido possa ler o e-mail e o destinatário tenha certeza de que somente você poderia ter enviado o e-mail.