Parece que você não instalou um gerenciador de inicialização que conhece a instalação do seu Ubuntu. Então o Windows apenas inicializa como normal. A maneira mais fácil é instalar novamente e, desta vez, instalar o gerenciador de inicialização (Grub2) quando solicitado.
Durante a instalação do Grubs, ele fará a varredura de suas unidades e fará uma lista de opções para inicializar quando você reinicializar.