Eu não acho que isso pode ser feito facilmente em um Synology.
Você provavelmente terá que criptografar no cliente. Por exemplo, estou usando um usuário dedicado para fazer backups na sinologia (no homedir desse usuário). Eu estou usando a duplicidade que pode fazer exatamente isso.