O Zimbra faz muito mais do que apenas compartilhar documentos, por isso provavelmente é muito grande, mas acho que você deve dar uma olhada nele, no caso de não encontrar nada que se encaixe melhor.
Na última CeBIT, passei alguns minutos com um cara de uma pequena empresa alemã que disse que lançaria em breve uma nova plataforma baseada na web opensource para compartilhamento seguro de arquivos grandes. É chamado de FTAPI e parecia bastante interessante. Tanto quanto sei, ainda não está em estado selvagem, mas você pode ficar de olho nele.
M