Como isso é acessado via http, use PHP para gerar o arquivo tar rapidamente usando algo parecido com isto:
<?php
set_time_limit(1);
header("Pragma: public"); // required
header("Expires: 0");
header("Cache-Control: must-revalidate, post-check=0, pre-check=0");
header("Cache-Control: private",false); // required for certain browsers
header("Content-Type: application/x-bzip2; charset=binary");
header("Content-Disposition: attachment; filename=\"archive.tar.bz2\";" );
passthru("tar cj --exclude-vcs /path/to/files",$err);
if ($err) {
error_log("exit value: $err");
}
exit;
Obviamente, isso não ajuda no caso de muito download deste arquivo.