Quando você instalar o ubuntu em seu outro disco rígido, ele instalará automaticamente (por padrão) o grub, que é um gerenciador de inicialização. Ele fará exatamente o que você quer. Após a instalação, basta ir ao seu bios e definir sua unidade de inicialização padrão para o segundo (com a instalação do Ubuntu). Quando você inicializar, verá uma tela com algumas opções diferentes para inicializar. Será parecido com isto, mas com outra opção abaixo para inicializar no windows:
Por padrão, ele será inicializado no Ubuntu após 10 segundos se nenhuma tecla for pressionada, mas você pode simplesmente usar as teclas de seta para navegar e entrar para escolher se quer inicializar no Windows ou no Ubuntu.