Se você precisar de uma chave combinada, crie uma chave combinada.
awk '
BEGIN { FS=OFS="|" }
NR==FNR { a[$1 "-" $3]; next }
($3 "-" $4) in a { print $0 }
' lookup.txt a.txt > matched.txt
Você pode usar "-"
como um separador ou outra string ou nada. Com os dados do seu exemplo, funcionaria sem um separador.