Você está procurando por expressões regulares PCRE do estilo Perl, mas essa não é uma sintaxe em conformidade com POSIX e não é suportada por implementações típicas das ferramentas de linha de comando padrão, como sed . O que é suportado é a sintaxe conhecida como Basic Regular Expression (BRE) e Extended Regular Expression (ERE). Em sed o primeiro é o padrão e o segundo é ativado com -E (no GNU sed -r também funciona).
Você ocasionalmente verá versões de ferramentas padrão com algum suporte para PCRE (por exemplo, o grep do GNU tem o sinal -P ), mas essa é a exceção, não a norma.
Consulte a seção Padrões da página de regex da Wikipédia para obter detalhes.

