EDIT: A solução simples é apenas recriar o pendrive USB com o Criador de disco de inicialização do Ubuntu em vez do UNetbootin, ou tentar formatá-lo primeiro, como outra resposta sugere.
Eu também acabei tendo o kernel errado na primeira inicialização do Ubuntu 14.04 depois de instalar com um stick USB criado com o UNetbootin. Os sintomas eram que a partição de inicialização não podia ser montada, já que não havia drivers ext2 disponíveis para o kernel.
O estranho é que o kernel em / boot parecia ser o correto, pelo menos baseado em seu nome. No entanto, apenas o nome estava correto. O kernel do arquivo era antigo, o que pode ser visto a partir da data de modificação. O problema foi resolvido fazendo o download do pacote atual do kernel com
apt-get download
descompactando com
dpkg -x
e copiando a imagem do kernel (com nome idêntico, mas de tamanho diferente) para a partição de inicialização.
Eu executei a operação de correção iniciando o Live Ubuntu com o mesmo pendrive USB UNetbootin, de onde eu poderia montar a partição de inicialização atual (sda1 no meu sistema).