Embora eu concorde com a resposta de Evan (começar a limpeza normalmente é mais fácil a longo prazo), aqui estão algumas coisas que você pode tentar:
- Limpar bibliotecas antigas e desatualizadas. Limpe completamente os seus drivers NVidia e instale o mais recente. Remova todas as instalações do Firefox e instale novamente.
- Confira quais serviços estão sendo iniciados quando o Ubuntu é inicializado. Limpe tudo o que você não precisa. Você está executando tanto o KDE quanto o Gnome? Quando eu estava executando os dois recentemente, notei que o KDE (que eu não estava usando) tinha um número de serviços extras em execução (por exemplo, MySQL), mesmo quando eu estava apenas no Gnome. Removendo o KDE ajudou um pouco para acelerar as coisas. Você está executando o Compiz? Pode ser um problema, e se o seu sistema não puder lidar com isso, eu recomendaria removê-lo.
Você mencionou que seu sistema é lento. Isso pode ser uma coisa difícil de quantificar. Alguns aplicativos estão demorando mais ou você percebeu que o próprio sistema está respondendo mais lentamente? Se for o último, você tem certeza de que tem recursos suficientes disponíveis para executar o sistema? Se for o primeiro, seus aplicativos estão atualizados? Eu sei que alguns dos meus programas favoritos (por exemplo, Eclipse) têm um histórico de desempenho ruim. Atualizá-los geralmente ajuda.