Você tem suas regras na ordem errada. Se você abrir a formatação condicional - > Gerenciar regras , você obtém o Gerenciador de regras de formatação condicional :
Quando as regras são organizadas como na captura de tela acima (primeiro ISNUMBER e LEN), recebo o efeito que você descreve em sua pergunta.
Se você inverter a ordem das regras (use os botões de seta na barra de cabeçalho), você obterá o comportamento desejado.