No VirtualBox, um Live CD não é uma instalação, ele é executado fora da imagem ISO. Assim como em um hardware real, o VBOX não salva nada em um drive virtual. O Youtube tem esta demonstração, e provavelmente outras. Você deve ter perdido alguma coisa no processo de configuração.
Em seguida, pode haver algo com a sua versão VBOX para o seu lançamento do Ubuntu OU suas imagens personalizadas. Tente um Live CD diferente e / ou uma versão diferente do VBOX / plataforma host.
Além disso, não monte o seu Live CD com antecedência e mova-o de óptico ou USB para o drive.