Você precisa definir em suas configurações de BIOS que o HDD que você deseja inicializar é o seu HDD do Windows, se você não encontrar essa opção no seu BIOS (99,9% terá) você precisa trocar os cabos entre o seu HDD Ubuntu e seu HDD do Windows.
Não deve haver um problema aqui, já que você aparentemente instalou o Ubuntu e o Windows em dois discos diferentes: ambos têm MBRs e carregadores de boot diferentes instalados.
Selecione em qual disco você quer inicializar no seu BIOS ou troque os cabos de um disco para o outro.