Após a conclusão da instalação, desligue a máquina. Remova o dispositivo USB e ligue a máquina.
Eu não sei exatamente quando remover o USB usado para instalar o Ubuntu. Se eu não removê-lo mesmo quando a opção 'reiniciar agora' vier após a instalação, eu vou para a mesma opção de tentar o Ubuntu, instale o Ubuntu ... Se eu tentar removê-lo antes de clicar em reiniciar agora, recebo uma tela com erro mensagem.
Após a conclusão da instalação, desligue a máquina. Remova o dispositivo USB e ligue a máquina.
É porque sua máquina está configurada para inicializar a partir do usb primeiro e do disco rígido em segundo ou terceiro lugar. Você pode alterar a ordem de inicialização para inicializar a partir do disco rígido primeiro na configuração do BIOS ou apenas remover o USB após concluir a instalação e reinicializar novamente.
Você pode invocar a configuração da bios pressionando F12 ou F8 etc. (depende do hardware) logo após ligar sua máquina.
Melhor da sorte.