Vou responder minha própria pergunta aqui. Não consegui obter fingerprint
verification funcionando, mas descobri como obter o TLS sem verificação de certificado. Do manual :
Mandatory TLS encryption can be configured by setting "smtp_tls_security_level = encrypt". Even though TLS encryption is always used, mail delivery continues even if the server certificate is untrusted or bears the wrong name.
Eu tentei isso em um determinado momento, mas não tive todas as opções corretas ativadas. Mas usando as configurações acima, eu simplesmente mudei smtp_tls_security_level
para encrypt
e ele funciona bem.