Isso listará todos os PDFs:
$ find dir/ -name '*.pdf'
./dir/subdir2/subsubdir1/document.pdf
./dir/subdir3/another-document.pdf
Você pode canalizar isso para xargs
para obtê-lo como uma única linha delimitada por espaço e fornecer isso para tar
para criar o arquivo:
$ find dir/ -name '*.pdf' | xargs tar czf dir.tar.gz
(Desta forma, omite os diretórios vazios)