Este é um problema conhecido com o CentOS 6.xe seu instalador. Você precisa de um mínimo de 652MB para obter o instalador da GUI, caso contrário, ele retorna ao texto. Veja as notas de lançamento:
The installer needs at least 392MB of memory to work. Text mode will automatically be used if the system has less than 652MB of memory..
Eu acho que esse requisito é devido ao interpretador Python que é usado pelo CentOS para facilitar as janelas gráficas que requerem a quantidade mínima de RAM de 652 MB de RAM. Eu me lembro vagamente de ler isso em um tópico que não consigo entender agora.