O problema estava na opção "Definir precisão como exibida" (Arquivo- > Opções- > Avançado).
Por exemplo, defino 5.555 para a célula. Quando altero o número de casas decimais para 2, o valor muda para 5,56. Se o número de casas decimais for 0, o valor na célula será 6. Se eu adicionar casas decimais, não altera o valor. Desfazer também não funciona.
Excluí todas as macros e todas as folhas que estavam aqui antes.
O problema estava na opção "Definir precisão como exibida" (Arquivo- > Opções- > Avançado).
Como seus comentários agora mencionam uma solução, essa é uma alternativa, já que o que você está fazendo é esperado por padrão.
Outra maneira de contornar isso é usar truncate para diminuir o valor que efetivamente trata o valor como uma string que é o que você está fazendo.
Portanto, atualize o valor da célula de 5.555 para
=TRUNC(5.555, 2)
E será atualizado para 2 dígitos
Ou, a fórmula pode fazer referência a outra célula. Alguma coisa como
=TRUNC(a5, 4)
A ideia disso é
=TRUNC(numberToChange , numberOfDigits)