Parece que o GRUB está instalado no USB B - assim, o seu sistema inicializará, mesmo no Windows, quando o USB B estiver conectado. Quando o USB B é desconectado, o gerenciador de partida não consegue encontrar o GRUB e falha.
Você pode executar o reparo de inicialização e verificar se o GRUB está instalado em seu disco rígido interno - por exemplo, sda