Você não pode executar mir nem wayland no VirtualBox. Talvez no futuro ... Veja também os links: link , link , link .
EDIT (2017-13-01): Você pode executar o wayland dentro do virtualbox agora. Eu lancei com sucesso uma sessão de wayland de plasma no KDE Neon Developer Edition Git Unstable com o virtualbox 5.1.12. Não tenho certeza sobre o Mir. Vou ter que testar alguns release 17.04 Alpha do ubuntu para descobrir.