Isso é chamado de virtualização "aninhada" e é possível para alguma combinação de hipervisor.
O motivo é que, para que a virtualização aninhada funcione, o primeiro hipervisor precisa passar para o segundo recursos da CPU (Intel VT-x ou AMD-V).
O VirtualBox não suporta não . Tem sido um pedido de recurso há 7 anos! Fonte aqui .
Mas, no meu entender, isso significa que ele não pode ser o primeiro hipervisor, mas talvez possa ser o segundo ...
Por que não atualizar o seu ESXi para o 5.5 e ter diretamente o seu Windows 10 no ESXi?
Atualizar
A partir de novembro de 2018, parece que será suportado em breve.
Da página vinculada anteriormente:
Nested AMD-V is functional (although not feature complete). Nested VT-x is still work-in-progress.