Fórmula para a célula A1:
=IF(LEN(A1)>5,TRUE,FALSE)
Observe que sua fórmula acima não possui o símbolo $
.
Em seguida, vá para Formatação condicional > Gerenciar regras > Aplica-se a
e altere o valor =$A$1
para =$A:$A
PS - observe que não é necessário encapsular o comprimento dentro de uma instrução if
. É apenas uma parte da minha preferência pessoal, pois acho mais fácil de ler. Você pode alternativamente usar =len(A1)>5