Eu não estou familiarizado com o Mac, mas a instalação do VitualBox e seus componentes, mesmo no nível básico, exigirá algum tipo de acesso administrativo à máquina. Sem saber o que foi feito e quais direitos de acesso foram dados ao seu fornecedor de terceiros para a instalação do VirtualBox, é quase impossível dizer a causa raiz de seus problemas, mas é bastante plausível que, suas ações possam ter causado a não intencional mudança no arquivo hosts.
Além disso, algum tipo de malware pode entrar em seu sistema durante essas tentativas de instalação e pode ter causado algum estrago.
Realmente não é possível determinar o que aconteceu a menos que um administrador com mais do que habilidades básicas coloque as mãos no sistema e analise os registros e analise todos os detalhes. Com os dados que você forneceu, não é possível dizer a causa raiz.