O problema foi resolvido reduzindo a memória da máquina para 512 MB. Eu não sei porque, mas isso funcionou.
Felicidades:)
Eu tentei com muitas alterações de configuração diferentes. Eventualmente eu estou usando agora a configuração de estoque com suporte 3D e 128 MB de memória gráfica. A instalação do Ubuntu trava e eu recebo o seguinte log:
Eu tenho 8 GB de RAM no meu computador e dediquei 4 GB para a VM.
Obrigado por qualquer esforço.
A última versão do virtualbox ainda não suporta o ubuntu 12.04, apenas até 11.04. A versão mais recente do vmplayer funciona bem com o 12.04, então você pode querer tentar isso, e então usar o VB para rodar o vm para ver se isso funcionaria.