Você pode desinstalar o redmine conforme descrito na resposta anterior, mas pode não remover tudo, então sugiro que você primeiro:
sudo apt-get purge redmine*
Isso removerá todas as coisas do seu sistema. Então, para dar um pouco de limpeza depois de ter sido removido, também execute isto:
sudo apt-get autoclean
Espero que ajude! :)