Isso precisa de "double escaping", mas os caracteres de escape precisam chegar ao comando "s" do sed, então eles também precisam ser escapados da shell bash. ("Triple escaping"?)
REPLACE_WITH="Blah\
de\
blah."
sed -i "s/TO_REPLACE/$REPLACE_WITH/g" file
Bash decodifica o "\\" em um único "\" e coloca um único '\' no comando send que o comando sed interpreta como '\ {newline}', o que significa uma nova linha que não termine o comando.
Se você tivesse apenas um '\' no final de cada linha, o bash veria o '\ {newline}', o que seria um 'nada', isto é: a nova linha e a barra invertida são completamente removidas.
Regra básica para o bash-sed-awk ... se as barras invertidas não estiverem funcionando, tente duplicá-las ... novamente.