Ok, a solução que encontrei nesta para a minha situação.
Eu tive o 32bit instalado no meu sistema fez 2 partições para o sistema no meu HD quando fiz esta instalação.
Mais tarde, decidi que tentaria 64 bits, pois meu sistema suporta isso.
Quando fiz esta instalação, não particionei a unidade e instalei o ubuntu 64bit. Depois disso, o problema de inicialização foi corrigido. Então, ou o particionamento não da unidade corrigiu esse problema ou a re-instalação do Ubuntu 64bit.