Você só precisa exibir e monitorar, no momento da instalação. Como alternativa, você pode configurar o disco rígido com o mínimo de SO, movê-lo para o servidor. Você também pode obter uma placa de rede com o VNC (ou algum outro sistema de gerenciamento). Ou adicione uma porta serial, se o carregador de boot suportar isso.
Se optar por uma placa gráfica, então você não precisa de uma GPU, apenas um buffer de quadro, a CPU pode fazer todo o trabalho (porque não será muito usada).
Quanto ao Gnome, você pode precisar de uma GPU 3D. Você confia no gnome para instalar um servidor? Existem outros gerenciadores de janelas que rodam em dispositivos de vídeo muito simples (apenas um buffer de quadros).
Quando o SO estiver instalado, você poderá usar o ssh com o X Forwarding, ou o VNC, para gerenciar o computador remotamente.