Você pode fazer isso a partir da linha de comando. Este exemplo aumentará a memória de vídeo para 256MB:
<~> $ vbm showvminfo WinXP-SP3 | grep VRAM
VRAM size: 128MB
<~> $ vbm modifyvm WinXP-SP3 --vram 256
<~> $ vbm showvminfo WinXP-SP3 | grep VRAM
VRAM size: 256MB
Nota: vbm
é na verdade uma abreviação de vboxmanage
.