Você precisa da opção -e
para especificar um comando na linha de comando. Dado isso, o seguinte funciona para mim:
$ cat file.txt
app/COD1
app/COD2
app2/COD1
app/COD1
app/COD1
$ sed -i -e "s,app/COD1,app2/COD2,g" file.txt
$ cat file.txt
app2/COD2
app/COD2
app2/COD1
app2/COD2
app2/COD2
O uso de barras invertidas também funciona, caso você esteja substituindo algo que possa ter vírgulas (ou qualquer outro delimitador escolhido):
$ sed -i -e "s/app\/COD1/app2\/COD2/" file.txt