Dependendo do programa que você está escrevendo seu regex, você terá que usar o escape apropriado. Por exemplo, com sed:
ts@xenon:~> echo 'Use your email ([email protected]) to login.' | sed -e 's/.*(\(.*\)).*//'
[email protected]
ts@xenon:~>
Nesse caso, as barras invertidas irão escapar dos parênteses após elas para metacaracteres que extraem a string correspondente entre elas na meta , enquanto os parênteses não precedidos por uma barra invertida serão correspondidos literalmente.