O VirtualBox está usando uma placa de vídeo virtualizada e não qualquer uma das placas de vídeo físicas da sua máquina. Para permitir o acesso de uma máquina virtual ao hardware físico, você deve passar o hardware para a máquina virtual. Passar por dispositivos PCI pode ser difícil e as placas de vídeo são ainda mais problemáticas. Além disso, os drivers proprietários da NVidia tentam dificultar a passagem pelos cartões mais baratos. Não tenho certeza do estado da passagem VGA no VirtualBox, mas talvez seja melhor alternar para o Xen ou o KVM, onde o repasse é mais desenvolvido.