Estou usando o LibreOffice Calc da r5.1.6.2
No menu, em Tools --> AutoCorrect Options --> Options
I encontrei a configuração A primeira letra em maiúscula de cada frase foi selecionada. Cancelar a seleção dessa opção resultou no comportamento que você e eu estamos procurando.
Antes de aplicar a mesma correção que você, eu tinha ido anteriormente para Tools --> Options --> Language Settings --> Writing Aids --> Options
e desmarcado Verifique a ortografia ao digitar e Verifique palavras maiúsculas , sem efeito. Caso contrário, não tenho explicação para o motivo de minha correção ter funcionado e a sua não.