Você poderia fazer algo assim:
ssh username@hostname 'tar -cf - /dir/to/download' | gzip > remote_files.tgz
Isso executará o tar no servidor remoto, mas, em vez de gravar em um arquivo, ele será enviado para stdout
. Isso será retornado por meio do SSH para sua máquina local, gzipado e depois gravado em um arquivo.