A partir do diretório que você deseja percorrer, você pode f.e. use find ./ -type f -name '*.php' -print0 | xargs -0 sed -i '/^\#/d'
. xargs constrói a lista de argumentos para sed para melhor desempenho e a opção -i de sed substitui o padrão no local (você não precisa usar o redirecionamento).
EDIT: De acordo com a página de manual do find find ./ -name '*.php' -type f -print0 | xargs -0 sed -i '/^\#/d'
é ainda mais rápido, porque não chama stat em cada arquivo ( opção -tipo).