Você pode usar o comando d
de sed
.
Para remover todas as linhas que contenham a palavra John, você faria
sed --in-place /John/d ./file
No caso de vários critérios, use o comando -e
sed --in-place -e '/John/d; /John Smith/d' ./file