Se o seu HP-UX for anterior a 11.11, você provavelmente precisará instalar o MTA de terceiros. Caso contrário, este documento da HP deve ajudar: link
Note that STARTTLS is a feature/functionality provided with HP's port of sendmail 8.13.3 from the Opensource version.