Você pode usar gawk
para fazer isso:
gawk -i inplace '{gsub("test", "");print}' file.txt
Aqui "test" é a palavra que você está tentando excluir e file.txt é o arquivo que você está tentando editar. Você já encontra isso usando o grep, portanto, não estou incluindo essa parte.
Estou editando isso por sugestão do @Serg
echo -n "Enter the path to directory (/path/to/dir), followed by [enter]:"
read dir_path
echo -n "Enter the word you are looking for, followed by [enter]:"
read word
cd ${dir_path}
for file in "$dir_path"/*txt; do
echo $file
awk -v var=$word -i inplace '{gsub(var, "");print}' $file
done