Você precisa configurar o GRUB. Isso é o que permitirá que você escolha o Ubuntu ou o Windows na inicialização.
Acho que você deve começar examinando a documentação do GRUB e veja especificamente a seção "Configurando o GRUB 2". Ele irá mostrar-lhe como definir o comportamento padrão e muita coisa legal para personalizar.
Mas tenha cuidado, você pode causar muitos danos com a modificação errada.