Primeiro, se você usar o Ubuntu, eu suponho que o Libreoffice já esteja instalado. Eu sugiro que você use, pois é um fork do OpenOffice, e funciona muito bem.
Se você realmente precisa instalar o OpenOffice, eu não sugiro que você mantenha o Libreoffice. Para remover o Libreoffice:
sudo apt-get remove --purge libreoffice*
sudo apt-get clean
sudo apt-get autoremove
Uma vez que o LibreOffice é totalmente removido, acesse este site (você terá a certeza de obter a última versão):
Ou você pode tentar isso (não tenho certeza da versão):
sudo add-apt-repository ppa:upubuntu-com/office
sudo apt-get update
sudo apt-get install openoffice