Pergunta 1:
Sim, você pode "reinstalar" excluindo a VM clicando com o botão direito do mouse na janela do Gerenciador de VirtualBox e criando uma nova VM da mesma maneira. Embora seja improvável que isso resolva quaisquer problemas que você esteja tendo.
Question2:
O Ubuntu tem uma janela do Terminal, não um prompt de comando. Para abri-lo pressione Ctrl + Alt + T
Para qual usar: use o prompt de comando se estiver lidando com coisas do lado do host, use o terminal se forem coisas do lado da VM (instalando software, abrindo / editando arquivos)
** Nota: o VirtualBox só vai até 128MB para a Video Memory, se você quiser mais do que isso, você precisa instalá-lo em uma máquina física