É possível que, como você disse, seu hardware tenha a capacidade de inicializar diretamente do USB. Você provavelmente precisará instalar o bootloader GRUB no HDD externo, ou o HDD foi formatado incorretamente. Apenas observe que se você inicializar a partir do USB onde o grub está carregado, pode não ser possível selecionar o Windows para inicializar a partir do HDD interno. O Windows também nunca terá a capacidade de selecionar para inicializar o Windows ou o Debian, a menos que você instale o grub no HDD interno, o que eu não recomendaria a menos que você esteja inicializando ambos da unidade interna.
Observe também que, se você não tiver o USB configurado como a primeira a ser carregada na sua ordem de inicialização, você normalmente precisará segurar / pressionar Esc no momento da inicialização toda vez que desejar inicializar a partir do USB. capacidade de selecioná-lo (desde que o GRUB esteja instalado na unidade externa em vez de interno). Eu posso estar errado, mas é isso que a experiência pessoal me diz. Muito disso depende da sua configuração e configuração de hardware específica.