Existe um programa chamado Ubuntu Tweak [1,2]. Ele permite que você limpe esses arquivos. A função "zelador" é a que você precisa.
Uma nota, apesar de dizer que só tem o download para o 11.04, você ainda pode baixá-lo para as versões posteriores do Ubuntu. Ainda funciona. Você também pode obter o PPA para atualizações.
Selecione "Apt Cache" "Kernel antigo" "Pacotes configurados" e "Pacotes desnecessários para limpá-los para obter espaço livre." O Kernel antigo "limpa a inicialização, pois eles ficam nessa partição. Você também pode selecionar os outros para obter mais espaço.
[1] link
[2] link