No OpenOffice Calc você pode fazer isso em Ferramentas- > Personalizar- > Teclado, em seguida, escolher a tecla "Enter", a Categoria "Inserir" e a Função "Inserir Células Abaixo".
Eu sei que o LibraOffice tem a mesma tela, mas não estou certo de que tenha as mesmas opções.