O High Sierra agora requer permissão explícita do usuário antes que as extensões do kernel possam ser executadas (KEXT)
leia sobre isso aqui (tl; dr Ir para preferências do sistema / segurança & ; privacidade e clique em permitir o VirtualBox)
habilite o KEXT do VirtualBox e execute
brew cask reinstall --force virtualbox