Você precisa definir a unidade correta como a mídia de inicialização padrão na configuração do BIOS do seu computador.
Como você entra na configuração da BIOS e faz a mudança na configuração depende do BIOS específico. Por favor, consulte o manual do seu sistema, o qual deve conter instruções nesse sentido. Se você ainda não conseguir fazer a alteração, recomendo abrir uma nova pergunta com imagens (da tela de configuração da BIOS, etc.) em SuperUser já que o BIOS está fora do controle do Ubuntu e está fora do tópico aqui no Ask Ubuntu.