Se você não sabe exatamente onde os arquivos estão localizados, mas conhece seus nomes, você pode usar find
:
find . \( -name "filename1" -o -name "filename2" \) -exec grep "<grepstatement>" '{}' \; -print
Supondo que os arquivos estejam neste diretório em algum lugar.