Primeiro, se você quiser verificar a célula acima em uma fórmula de formatação condicional, não precisará dessa construção complexa de Deslocamento / Indireta. Basta selecionar A2 e na sua fórmula A1 de referência de formato condicional como referência relativa, ou seja, sem nenhum sinal de $. Em seguida, aplique esse formato condicional a outras células e ele sempre avaliará a linha de uma célula acima da célula atual.
Voltando à sua pergunta: não, o formato de uma célula não é importante. A formatação condicional avaliará o valor subjacente.
No caso de =DEC2HEX(36)
, a saída não é um número, a comparação retornará FALSE se essa célula for comparada com o valor numérico em A1.