FS
é um regex: o awk interpreta -|-
como " -
ou -
".
Use -\|-
. Você precisará dobrar a barra invertida dentro do literal da string.
echo 'foo-|-bar' | awk 'BEGIN {FS="-\|-"} {print $1}'
ou
echo 'foo-|-bar' | awk -F '-\|-' '{print $2}'