tente
sed -i 's,\([^\]\)\n,\\n,' file
sed -i 's,\([^\]\)\n,\\n,' file
onde
-
\deve ser escapado por\\ -
\( .. \)padrão de captura -
na mão direita é o primeiro padrão capturado. - segundo formulário com uma única sugestão
\in[^\]conforme @cuonglm.
você precisa manter o padrão, senão ele será descartado.