Se você quiser fazer isso com uma única fórmula, ela se tornará um monstro ... mas você pode usar essa fórmula de matriz em L4
copiado para baixo
=MEDIAN(IF($B$4:$B$15<>B4,IF(ABS(E4-$E$4:$E$15)<=SMALL(IF($B$4:$B$15<>B4,ABS(E4-$E$4:$E$15)),5),IF(ABS(F4-$F$4:$F$15)<=SMALL(IF($B$4:$B$15<>B4,IF(ABS(E4-$E$4:$E$15)<=SMALL(IF($B$4:$B$15<>B4,ABS(E4-$E$4:$E$15)),5),ABS(F4-$F$4:$F$15))),3),$G$4:$G$15))))
Note que, como com suas fórmulas, se você calcular o 3 mais próximo desta forma (comparando com o 3º maior valor), então é possível que você inclua 4 ou mais quando houver empates no 3º menor número.