Para alterar o cache do apt permanentemente, primeiro prepare o novo diretório,
mkdir -p /some_new_directory/partial
Em seguida, edite /etc/apt/apt.conf
e adicione esta linha,
dir::cache::archives /some_new_directory
Mais informações aqui
P.S se você está com preguiça de fazer isso, simplesmente mova /var/cache/apt/archives/
para algum lugar e crie uma ligação simbólica de volta.