Você não mostra o que tentou, então não sei qual parte está causando o seu problema. Presumivelmente, o problema é que você acha que sed está sufocando em \ s e [ . Esses caracteres especiais precisam ser evitados adicionando um \ antes deles. Então, para obter um literal \ , você precisa escrever \ (e usar simples citações).
Isso deve funcionar:
sed 's/^abc\\efg\[255/abc\\efg\[28/' file
Como deveria
sed 's/^\(abc\\efg\[2\)55/8/' file