Funciona de dentro para fora. COUNTIF retorna um valor e, em seguida, você está testando esse valor no IF . O teste IF não faz parte do design de COUNTIF , e COUNTIF não está ciente de para o que você está usando o valor.
Se eu incluir uma condição como =if(countif(X:X,A1)>0,"found","not found") em uma fórmula do Excel, o Excel interromperá o countif depois de encontrar um registro correspondente ou continuará procurando a contagem total em toda a coluna, retornando essa contagem, e verifique se esse valor é >0 ?