Sim, você pode - com um pouco de engenharia:)
Como você diz que deseja impor o TLS com base no domínio do remetente, adicione uma restrição check_sender_access aos seus smtpd_sender_restrictions, assim:
smtpd_sender_restrictions = check_sender_access hash:/etc/postfix/enforced_tls
e em /etc/postfix/enforced_tls
:
@example.org reject_plaintext_session
@example.net reject_plaintext_session
Não se esqueça de postar o arquivo e recarregar o postfix quando terminar.