Isso aconteceu, porque você provavelmente instalou o gerenciador de inicialização Ubuntu (grub) no MBR do HDD interno (ou sua partição inicializável), mas os arquivos requeridos estão instalados no externo. Além disso, o BIOS não oferece a unidade externa ao gerenciador de inicialização do Ubuntu, portanto, não encontra os arquivos necessários.
Se o sistema que foi instalado no HDD interno for o Windows Vista ou 7, siga este guia para o fixboot (e se isso não funcionar também fixmbr): link (existem guias semelhantes para outras versões do Windows, mas eu não tenho os links disponíveis - > as palavras-chave para sua própria pesquisa no google são fixmbr, fixboot, console de recuperação e claro versão do windows)
Se você quiser usar o Ubuntu somente a partir de um disco rígido externo, sem tocar no disco rígido interno, certifique-se de que o bootloader também esteja instalado na unidade externa (nesse caso, após a instalação, é claro que você deve selecionar disco rígido para querer arrancar a partir da BIOS). Em algum momento durante o processo de instalação (provavelmente ao particionar seu HDD), você recebe uma lista suspensa de dispositivos nos quais você pode instalar o Grub. É claro que pode ser o caso, que o seu BIOS não inicializa a partir de drives USB, o que significa que não há nenhuma maneira conveniente de instalar o Ubuntu em um drive externo sem tocar o interno ... Eu não ficaria surpreso se isso realmente é o caso no computador em que você está tentando instalar o Ubuntu, senão não vejo razão para o Grub não encontrar seus arquivos no disco rígido externo agora ...