O seu exemplo não é suficiente para mostrar que a autenticação de texto simples não é permitida em conexões não-tls. --protocol SMTP
está dizendo explicitamente para NÃO usar o ESMTP, e o ESMTP é necessário para autenticação. Em outras palavras, você está testando que a autenticação não é oferecida por SMTP, não que a autenticação em texto simples não seja oferecida em conexões de texto simples. (quem está no primeiro!).
O seguinte está mais próximo do que você está procurando:
# These should fail, because you don't want to offer plaintext auth protocols
# over non-tls connections
swaks ... --auth PLAIN --auth-user .. --auth-password ..
swaks ... --auth LOGIN --auth-user .. --auth-password ..
# Should succeed because hashed PW protocols are ok over plaintext (assuming you
# support them at all of course):
swaks ... --auth CRAM-MD5 --auth-user .. --auth-password ..
swaks ... --auth DIGEST-MD5 --auth-user .. --auth-password ..
swaks ... --auth NTLM --auth-user .. --auth-password ..
# The converse of the above, make sure your plaintext password work over tls
# sessions (assuming you want them to, of course)
swaks ... --auth PLAIN --auth-user .. --auth-password .. --tls
swaks ... --auth LOGIN --auth-user .. --auth-password .. --tls
swaks ... --auth CRAM-MD5 --auth-user .. --auth-password .. --tls
swaks ... --auth DIGEST-MD5 --auth-user .. --auth-password .. --tls
swaks ... --auth NTLM --auth-user .. --auth-password .. --tls
Espero que ajude, boa sorte!