Primeiro, você deve procurar por erros em vbox.log
. Se for um problema de memória, você poderá consertar isso alterando a memória alocada para o sistema operacional convidado. Dê uma olhada neste post sobre o problema: link
Mas, definitivamente, procure primeiro no log de erros ...