Existe uma ferramenta de linha de comando pdfgrep que pode executar sua tarefa. Você pode instalá-la por % sudo apt-get install pdfgrep
Para procurar por uma expressão regular:
find /path -iname '*.pdf' -exec pdfgrep -H 'pattern' {} \;
onde path é a localização dos seus arquivos pdf.
Existe também uma ferramenta GUI chamada recoll que pode pesquisar documentos indexando-os.