FS é um regex: o awk interpreta -|- como " - ou - ".
Use -\|- . Você precisará dobrar a barra invertida dentro do literal da string.
echo 'foo-|-bar' | awk 'BEGIN {FS="-\|-"} {print $1}'
ou
echo 'foo-|-bar' | awk -F '-\|-' '{print $2}'