Publicando uma resposta conforme solicitado:
grep -h 'L1|L2' ~/directory{1..5}/*.pvc >~/all_lines.txt
-h informa grep para não imprimir nomes de arquivos, L1|L2 procura por linhas L1 e L2 e directory{1..5} expande para directory1 , ..., directory5 .