Provavelmente você instalou o GRUB no pendrive em vez de no disco rígido.
Inicialize através do drive USB, abra um terminal (CTRL + ALT + T) e digite ls -l /dev/disk/by-label/
. Você terá uma lista de drives do tipo / sda1 / sda2 ou / sdb1 etc.
Identifique o disco rígido onde o Ubuntu está instalado. Se for digamos sda4, no tipo de terminal: sudo grub-install /dev/sda
sem o número final.
Desligue, remova o pendrive e ligue novamente.