Você só precisa adicioná-lo nos arquivos de configurações do apt. Basta executar:
sudo sh -c "echo 'DSELECT::Clean "always";' >> /etc/apt/apt.conf.d/99AutomaticClean"
Isso acionará a limpeza automática sempre que você executar upgrade
.
Deixa para explicar esta entrada, da página man:
Clean
Modo Cache Clean; esse valor pode ser um de sempre, pronto, automático pré-automático e nunca. sempre e pronto irá remover todos os pacotes a partir do cache após a atualização, o prompt (o padrão) faz isso condicionalmente. auto remove apenas os pacotes que não são mais baixável (substituído por uma nova versão, por exemplo). O pre-auto realiza essa ação antes de fazer o download de novos pacotes.
Mais informações: