Eu discordo das outras respostas, em que "nenhum conhecimento um do outro" é bem possível. Pode não ser muito prático.
Uma configuração que eu corri nos velhos tempos era assim.
- Windows na unidade A, inicializado pelo Windows bootloader como de costume
- Linux na unidade B, sem boot loader
Um disquete de 3,5 "com o gerenciador de inicialização para o Linux no Drive B. Eu usei o disquete como um "switch" de boot. Quando estava na unidade de disquete minha máquina inicializava o Linux, quando não estava na unidade a máquina inicializava as janelas. Provavelmente é possível fazer o mesmo com uma unidade USB.
Antigamente, havia também disquetes de inicialização capazes de trocar a ordem das unidades de inicialização . Eles ofereceram um menu que permitia inicializar a partir do primeiro ou do segundo disco rígido sem saber nada sobre o SO instalado.
O que eu tenho hoje em dia é uma máquina sem discos rígidos internos. Eu tenho um grupo de unidades eSATA que conecto ad libitum .