Você precisa clicar com o botão direito do mouse no arquivo .xlsx e selecionar Propriedades. Em seguida, vá para a guia "Abrir com" e selecione LibreOffice Calc de lá. Clique no botão que diz “Definir como padrão” para sempre abrir esse tipo de arquivo (.xlsx) com o LibreOffice Calc.