A maneira mais simples:
cd /path/to/directory
rm *_foo_*
ou
rm /path/to/directory/*_foo_*
O asterisco ( * ) corresponde a todos os caracteres.
Para obter explicações sobre o que está sendo feito, use a opção rm with -v . Para ser avisado antes de cada remoção, use a opção rm with -i :
rm -vi *_foo_*
Veja man rm para mais informações.