O Windows é um pouco diferente, veja Como migrar instalações existentes do Windows para o VirtualBox para um guia.
Na memória, você pode usar o conversor da VMware e o VirtualBox lerá os arquivos VMDK .
Para Linux, se você quiser a solução fácil, inicialize um CD ao vivo,
dd if=/dev/sda1 of=/path/to/images/sda1.img bs=1024
Faça isso para cada partição montada em /etc/fstab
da sua máquina e, em seguida, configure essas imagens no VirtualBox.