ok, achei. Aparentemente, há algum comportamento estranho entre o cliente mais recente do filezilla 3.5 e o ftps.
para o vsftpd, a solução era simplesmente adicionar: ssl_ciphers = HIGH no arquivo vsftpd.conf
Eu não tenho certeza se estou autorizado a postar isso também, mas há uma ameaça sobre isso nos fóruns do filezilla.