É mais provável que seu computador tente inicializar a partir de dispositivos USB antes de inicializar a partir do disco rígido. Como o seu telefone está conectado e não é inicializável, o computador fica preso.
Você pode desativar a inicialização de dispositivos USB por completo ou alterar a ordem de inicialização para que o computador examine primeiro os discos rígidos.
O acesso às configurações da BIOS geralmente é feito pressionando-se Delete ou F2 (ou alguma outra tecla) enquanto o computador é inicializado. Uma vez em você deve ser capaz de encontrar um lugar para alterar as configurações que eu mencionei antes.