Baseado na documentação do VirtualBox:
-
Gráficos. O dispositivo gráfico do VirtualBox (por vezes referido como dispositivo VGA) é, ao contrário de quase todos os outros dispositivos emulados, não baseado em qualquer contraparte física:
link
-
O VirtualBox Guest Additions contém suporte experimental a hardware 3D para convidados Windows, Linux e Solaris
link
Você não está acessando a placa Nvidia, mas a "placa de vídeo emulada".
Sobre "Alterar o tamanho da memória" , em Ask Ubuntu Forum:
No "GPU e Virtualbox" , encontrei esta página:
- www.se7ensins.com/forums/threads/how-to-setup-a-gaming-virtual-machine-with-gpu-passthrough-qemu-kvm-libvirt-and-vfio.1371980
explicando "Como configurar uma máquina virtual de jogos com passagem de GPU (QEMU, KVM, libvirt e VFIO)". Não é simples (e provavelmente não garantido)