Você precisa especificar onde as chaves de classificação terminarão. Caso contrário, eles terminam no final da linha.
E para aplicar classificação numérica a apenas uma chave, com n anexado à especificação principal. -n sozinho transformaria a classificação numérica globalmente.
sort -t'|' -k1,1 -k2,2n