Existe uma rotina de limpeza. sudo apt-get clean
O Linux não exclui os arquivos automaticamente para evitar a necessidade de baixar novamente o arquivo, se desinstalado e reinstalado. Muitos desses pacotes podem ser simplesmente para dependências.
Se você quiser arquivos removidos automaticamente (especialmente para versões mais antigas). Execute sudo apt-get autoclean
e sudo apt-get autoremove
.