Tudo no seu VirtualBox é armazenado em arquivos chamados imagens de disco. Você pode fazer backup dessas imagens de disco em alguma mídia externa e movê-las de volta depois de terminar. Isso permitirá que você mantenha todos os dados de suas máquinas virtuais.
Estas imagens de disco estão normalmente localizadas na pasta oculta .VirtualBox no seu diretório pessoal. Simplesmente copie estes em algum lugar que não esteja sendo reformatado, e os leia no VirtualBox depois de reinstalar. Verifique as configurações da sua VM para o local completo, se você não conseguir encontrá-lo.