Quando você instalou no HDD, o bootloader do Ubuntu também foi provavelmente instalado na mesma unidade. Como a ordem de inicialização do seu BIOS provavelmente lista o SSD acima do HDD, seu bootloader (GRUB) não faz parte do processo de inicialização. Está lá e definido corretamente, mas está sendo ignorado apenas quando o sistema verifica a unidade do Windows e encontra uma partição de inicialização lá.
Você pode tentar iniciar a partir de um live CD / USB e ' conserta o GRUB " instalando-o no SSD ou altere a ordem de inicialização das unidades no BIOS.
Eu tentaria alterar a configuração da BIOS primeiro, é o mais fácil.
EDIT Desculpe, só percebi que li a pergunta errada. Você provavelmente ainda pode consertar as coisas seguindo o link 'reparar o GRUB'. Depois de obter a entrada do Windows no GRUB, aqui é um post explicando como torná-lo padrão.