Você deve poder encaminhar uma porta no host local para a VM.
Eu não sei como fazer isso no VirtualBox, mas no Qemu é uma opção de comando:
qemu-kvm [all your usual qemu options] -net nic -net user -redir tcp:22122::22
Então ssh para ele:
ssh -p22122 klaatu@localhost
Eu imagino que o VirtualBox tenha uma função similar em seu painel de configurações da GUI.