Graphics. The VirtualBox graphics device (sometimes referred to as VGA device) is, unlike nearly all other emulated devices, not based on any physical counterpart. It is a simple, synthetic device which provides compatibility with standard VGA and several extended registers used by the VESA BIOS Extensions (VBE).
O RH 5.2 usa um kernel mais antigo e a compatibilidade não é garantida, mesmo que você mesmo possa criar o driver da placa de vídeo.
Em suma, é provável que você esteja sem sorte.