Já tive problemas semelhantes com o virtualbox.
Eu estava executando na última biblioteca virtual 5.2.6 no meu ubuntu 16.04 .
Eu fiz um purge e autoremove de todas as suas bibliotecas + virtualbox.
Versão anterior estável instalada - 5.1.32 e suas extensões.
Tudo funcionou bem desde então.
Tente executar estes comandos:
sudo apt-get update
sudo apt-get install -f
sudo apt-get purge virtualbox-5.2.x
sudo apt-get autoremove
sudo apt-get install virtualbox-5.1
se você não conseguir instalá-lo a partir de commandline , acesse o site deles:
link
Faça o download do 5.1.32 para o ubuntu 14.04 / 16.04 e instale o pacote .deb file:
sudo dpkg -i virtualbox-5.1_5.1.32-120294_Ubuntu_xenial_amd64.deb
Deixe-nos saber como é isso.