O que você precisa fazer aqui é criar uma expressão regular que corresponda a:
- a partir do início da linha, (zero ou mais caracteres não "x" seguidos de um "x") 3 vezes
- seguido por zero ou mais caracteres não "x" até o final da linha
Com sed você escreveria (assumindo o GNU sed)
sed -rn '/^([^x]*x){3}[^x]*$/p'