Isso definitivamente não deveria acontecer. Você deve escolher um menu bonito para selecionar se deseja instalar o Ubuntu ou testá-lo. Mas de qualquer forma, podemos fazer isso através do menu do grub. Execute os seguintes comandos:
set root=(hd0,msdos1)
Estou considerando que seu pendrive tenha apenas uma partição aqui.
linux /casper/vmlinuz boot=casper noprompt noeject quiet splash
initrd /casper/initrd.lz
boot
E que, no melhor cenário, deve inicializar o Ubuntu Live.