Este artigo (francês) descreve o mesmo erro no Debian: Virtualbox & vboxdrv .
A solução lá foi para apagar dois arquivos e reinstalar o Virtualbox da seguinte forma
rm -r /etc/init.d/vboxdrv
rm -r /var/lib/update-rc.d/vboxdrv
apt-get install virtualbox virtualbox-dkms virtualbox-guest-utils virtualbox-guest-additions virtualbox-qt
O artigo também lista uma solução que funciona para o Fedora:
/etc/init.d/vboxdrv setup
Um comentário depois observa que apt-get purge virtualbox
deveria ter sido usado
em vez de apt-get remove
, que também teria removido o script de inicialização,
então talvez essa seja a causa real do seu problema, que pode ser resolvida simplesmente fazendo purge
.