Se eu iniciar meu sistema com um disco rígido USB ou unidade flash (thumb stick) conectado, o GRUB não será carregado. Particularmente, apenas trava com uma tela em branco. Normalmente eu desligava o drive e reiniciava, e funciona bem, mas eu realmente gostaria de descobrir por que isso está acontecendo. Está acontecendo desde que consigo me lembrar (do Ubuntu 10.x para 14.x). Eu tentei procurar no dmesg mas não esperava encontrar nada lá, parece que o dmesg só seria capaz de logar se o kernel estivesse rodando, onde o GRUB seria responsável por iniciar o kernel.
Eu não estou tentando inicializar a partir desses dispositivos externos, mas é um incômodo ter que desconectar qualquer armazenamento externo a cada vez, ou se alguém usar meu computador, tenho que estar atento para não deixá-los conectados para que eles possam inicializar em outro SO sem problemas.
Mude o HDD interno para o primeiro boot no BIOS e você deve ser capaz de inicializar sem ter que desconectar o HDD USB porque alguns (não todos) USB HDD têm o sinalizador de inicialização neles e sem um SO neles parar e você terá que reiniciar a máquina.