Dar ao convidado acesso completo à GPU provavelmente não é possível. Se uma máquina virtual tivesse acesso direto à sua GPU, coisas ruins aconteceriam porque compartilhar a memória entre dois computadores efetivamente diferentes não é uma coisa; ponteiros e endereços e outros seriam muito diferentes entre eles. (Nenhum cartão disponível ao consumidor suporta a manutenção de dois computadores ao mesmo tempo.)
Existem, no entanto, algumas coisas que você pode tentar. Primeiro, defina seu processador gráfico preferido para o bom no NVidia Control Panel (Configurações 3D → Gerenciar configurações 3D → Processador gráfico preferido). Isso pode fazer com que o VirtualBox use a placa NVidia para o OpenGL.
Se isso não ajudar, tente instalar adições de convidado no modo de segurança no convidado .
Existe também o conceito de repasse de GPU, mas é recomendado trabalhar melhor em hosts baseados em Nix. Você pode obter um guia de configuração adequado aqui .