Não, não é necessário limpar os pacotes do LibreOffice 5 antes de atualizar para o LibreOffice 6, pelo menos se você estiver usando os pacotes do LibreOffice fornecidos pelo Debian.
A limpeza envolve a remoção de um pacote junto com sua configuração. A única razão para isso é se você deseja desinstalar completamente um pacote; Quando você está atualizando um pacote, você nunca precisará fazer isso. Mesmo quando um pacote muda de nome, se for incompatível com a versão anterior, ele será declarado em seus metadados e o sistema de gerenciamento de pacotes cuidará de você (o que envolverá remover o pacote antigo, não eliminá-lo, para que o novo pode-se importar o pacote antigo, se apropriado, e para que você possa reverter para o pacote antigo, se necessário).
Eu não posso garantir nenhuma garantia referente a pacotes de terceiros, mas você também não precisa depurar atualizações. Você pode precisar limpar antes de trocar de pacotes fornecidos pelo Debian e alternativas de terceiros, mas eu esperaria que as instruções de instalação o informassem.