As especificações dizem que o R300 tem apenas dois slots x8 PCIe, então você não serão capazes de usar quase todas as placas gráficas disponíveis, pois elas precisam de um slot x16. Não é um servidor adequado para placas gráficas.
A Matrox faz uma placa gráfica que precisa apenas de um slot x1 , mas como ele tem apenas uma porta, você deve ter certeza de que os gráficos internos não serão desabilitados quando uma placa gráfica estiver instalada, de modo que você possa usar os dois ao mesmo tempo. Eu acho que é improvável que isso seja possível.
Portanto, eu recomendo que você obtenha um servidor mais adequado. A maioria dos servidores de pedestal que eu já vi tem pelo menos um slot x16, mas esse não é o caso de servidores de rack de baixo custo.
Se você realmente quiser um segundo monitor nesse servidor, acho que a única opção disponível para você é o Matrox DualHead2Go .