A maneira correta de fazer isso é dist-upgrade, como já foi dito:
sudo apt-get update
sudo apt-get dist-upgrade
Parece que você já o instalou manualmente, portanto, seu sistema provavelmente não atualizou automaticamente o grub - é um dos gatilhos que são executados corretamente com o apt-get. Você pode atualizar o grub a qualquer momento com:
sudo update-grub
Não há necessidade de remover os kernels anteriores e, na verdade, você deve deixar alguns trabalhos conhecidos no caso de o kernel atual quebrar - ele oferece mais opções para recuperar o sistema do que você teria de outra forma. Eles aparecerão no menu grub, embora o mais recente apareça primeiro na lista e aquele que é inicializado automaticamente após o tempo limite de 10 segundos.