Em algumas bios-es, é possível definir a sequência de pesquisa entre dispositivos, por exemplo.
USB,CDROM,HD
irá procurar por um pendrive, depois pelo drive de CD seguido pelo Disco Rígido. Se fosse definido apenas HD
O USB e a unidade de CD não serão pesquisados.
Entrar na bios depende da versão, F2 ou CTRL + ESC são teclas comuns para pressionar durante o processo de inicialização, para quebrar no BIOS. Talvez outros possam sugerir outras chaves que permitem o acesso.
Como alternativa, apenas remova o pendrive antes que ele seja lido durante a reinicialização e veja se ele inicializa a partir do disco rígido.