Eu acho que o modo sem cabeça é o que você quer. Ele inicia a VM, mas não inicia a janela que mostraria o console e / ou a GUI da máquina. Você pode invocá-lo da CLI desta forma, para uma VM chamada testVM:
VBoxManage startvm testVM --type headless
e para desligar / salvar estado:
VBoxManage controlvm testVM power off
e
VBoxManage controlvm testVM savestate
Se você tiver o Extension Pack instalado no host, ele anexará um servidor RDP a cada VM na inicialização, o que significa que, se você achar que precisa do console / GUI, poderá executar o RDP na VM e entrar nele.