É aconselhável, embora não estritamente necessário, reinicializar e selecionar um kernel antigo primeiro. Você pode remover um kernel "sob" o sistema que o está executando - ele continuará na memória e funcionará bem. Mas apenas no caso de algum problema ter surgido impedindo que seus kernels antigos funcionem, você deve tentar inicializar um deles primeiro. (Além disso, alguns processos de instalação podem assumir que o kernel em execução está realmente instalado.)
Para usar um kernel antigo, reinicialize e mantenha pressionado Shift enquanto o computador estiver sendo inicializado. Você deve ver diferentes opções de inicialização, como um modo de recuperação e uma opção para verificar sua memória / RAM. Se você vir alguma opção para um kernel que não é a versão 3.1, selecione o kernel mais recente (não selecione "modo de recuperação"). Ou seja, selecione o kernel da série 3.0 com o maior número de versão, mas não selecione um kernel da série 3.1. Se você não encontrar nenhuma opção, selecione a opção para visualizar os kernels mais antigos e selecione-a lá.
No caso improvável de você tentar inicializar a partir de um kernel antigo, mas não pode, você deve não prosseguir com a desinstalação, já que pode ser o único kernel que você tem (se nenhum outro estiver listado) ou o único kernel que está funcionando corretamente. (Nesse caso, você deve postar um comentário para esta questão detalhando o que aconteceu, e eu vou adicionar informações sobre como resolver este problema para a minha pergunta ... ou solicitar mais informações, se necessário. No entanto, dadas as informações que você forneceu , esta situação é extremamente improvável.)
Após inicializar a partir de um kernel da série 3.0 (ou não, se você decidiu abrir mão disso), você pode remover o kernel da série 3.1 que você instalou executando este comando:
sudo apt-get purge linux-headers-3.1.0-030100 linux-headers-3.1.0-030100-generic linux-image-3.1.0-030100-generic
Usar remove em vez de purge (como sugerido nas outras respostas até agora) também funcionará, mas pode deixar alguns arquivos de configuração globais que sobraram; purge é provavelmente preferível.
Não é necessário procurar os pacotes para remover usando algo como dpkg -l | grep "linux\-[a-z]*\-" (como esta resposta sugere) ou sudo aptitude search ~i | grep linux-image (como este sugere) porque sabemos exatamente quais pacotes você instalou (desde que você forneceu as instruções usadas para instalar eles, que inclui os nomes exatos do pacote). Os seus kernels mais antigos (isto é, da série 3.0) não seriam removidos automaticamente, e a versão para este kernel não teria mudado desde que você o instalou, baixando manualmente e instalando os arquivos .deb em vez de habilitar o PPA. (Se você tivesse instalado do PPA, então você ainda não teria que procurar - você poderia apenas ppa-purge o PPA.) Também não precisamos nos preocupar com a instalação de pacotes virtuais que resultariam no kernel da série 3.1 voltar automaticamente; instalar esses pacotes virtuais lhe daria o kernel mais novo, mas instalar o kernel mais novo como você fez acima não instalaria esses pacotes virtuais.
Assim, os passos descritos acima devem ser suficientes.
