Verifique se a unidade USB vem em primeiro lugar na lista de dispositivos de inicialização nas configurações da BIOS. Em alguns BIOS, desconectar as unidades USB remove-as da lista de dispositivos de inicialização, portanto, você precisa fazer isso toda vez que quiser inicializar a partir do USB, com a unidade flash conectada ao abrir a configuração do BIOS.
O Ubuntu, ou qualquer outro sistema operacional, não tem absolutamente nenhum controle sobre os estágios iniciais do processo de inicialização - basicamente, seu BIOS decide de qual dispositivo inicializar antes de invocar o GRUB ou qualquer código do Ubuntu.