Se você usar sed sem -r (expressões regulares estendidas), funcionará como ele usa \(\) em vez de () para agrupamento:
sed -e 's/(/X/g'
Por exemplo
$ echo "foo (bar) (baz)" | sed -e 's/(/X/g'
foo Xbar) Xbaz)
Se você quiser usar -r , poderá colocar ( dentro de [] , por exemplo
sed -re 's/[(]/X/g'
Como Lekensteyn observa usando tr pode ser mais apropriado, já que você está apenas substituindo e não precisa do poder total das expressões regulares.