Você precisará usar INDEX / MATCH como VLOOKUP requer que o valor de pesquisa esteja na coluna da esquerda.
=IFERROR(INDEX(Sheet2!A:A,MATCH(A:A,Sheet2!B:B,0)),"")
Eu notei esse problema ao usar esta função vlookup no Excel 2016:
=IFERROR(VLOOKUP(A:A,Sheet2!A:B,2,FALSE),"NO MATCHING")
Portanto, a função fará o check-in no intervalo A: B e, se a correspondência for confirmada, imprimirá o valor na segunda coluna. Agora, minha planilha tem valores semelhantes (de acordo com os da coluna "A" da Planilha1) na coluna "A" da Planilha2: se eu inverter a posição da coluna A e B na Planilha2, ela imprimirá sempre mensagem do iferror "NO MATCHING".
Por que essa diferença?