A função MATCH retorna #NA se não houver correspondência. IF testa verdadeiro ou falso, mas retorna #NA de MATCH , então a condição falsa, "N", nunca acontece.
Use IFNA para testar o resultado #NA. Supondo que Sheet1 tenha a coluna de pesquisa, essa fórmula em C2 da segunda planilha testa o resultado da função IF . IF retorna "Y" ou #NA, então IFNA retorna "Y" ou "N".
=IFNA(IF(MATCH(LEFT(B2,3),Sheet1!$A2:$A4,0),"Y"),"N")