tente
sed -i 's,\([^\]\)\n,\\n,' file
sed -i 's,\([^\]\)\n,\\n,' file
onde
-
\
deve ser escapado por\\
-
\( .. \)
padrão de captura -
na mão direita é o primeiro padrão capturado.
- segundo formulário com uma única sugestão
\
in[^\]
conforme @cuonglm.
você precisa manter o padrão, senão ele será descartado.