Bem ... É um programa diferente, com um conjunto de recursos maior e uma interface do usuário projetada por desenvolvedores diferentes do que o Planilhas Google, e com uma filosofia e um objetivo de design diferentes.
Se você for ao menu "Visualizar", poderá ocultar / mostrar as várias barras de ferramentas, a barra de fórmulas e a barra de status. Isso pode ajudar a movê-lo para um território mais familiar, embora você possa perder alguns botões que você usa muito. Você também pode ocultar todas as barras de ferramentas padrão, em seguida, criar uma nova barra de ferramentas (ou editar uma existente) com apenas os botões para os recursos que você usa com freqüência (Exibir - > Barras de ferramentas - > Personalizar). Isso é provavelmente onde eu começaria.
Se você acessar as ferramentas - > Opções, em seguida, abra "Aparência" em "OpenOffice.org", você pode definir paletas de cores e tal (você pode até salvar seus favoritos como uma predefinição). Também pode haver algumas coisas em "Visualizar" nas configurações do Calc.
Você não será capaz de alterar o layout geral, mas aparando o excesso de gordura das barras de ferramentas e escolhendo cores que você gosta, você certamente pode limpá-lo um pouco.
O Libreoffice também suporta personas do Firefox. Eu acho que você vai encontrar este artigo muito interessante, ele vai sobre todas as maneiras que você tem que personalizá-lo, incluindo barras de ferramentas, personas, cores, etc. Será um bom lugar para você começar.
Você também pode considerar deixá-lo inalterado durante algum tempo, antes de personalizá-lo. Você pode descobrir alguns recursos que o Planilhas não tem e de fato acha que realmente gosta, além de poder incluí-los em suas barras de ferramentas personalizadas.