É um sistema mais antigo. Os benefícios que você obteria de uma placa de vídeo de alto nível seriam limitados.
Deixa os afunilamentos de conversa.
Se é algo parecido com o dell 530 com o qual trabalhei no passado, ele teria uma PSU com apenas conectores SATA. Modelo de área de trabalho Dells desse vintage felizmente usam PSUs padrão ATX e atualizá-los seria uma opção. A Dell normalmente tem 3 tamanhos do mesmo modelo com níveis variáveis de capacidade de atualização, o que importa.
Se você estiver executando o Windows 7, ou até mesmo 10, obtenha um SSD . É a melhor atualização que você pode fazer.
Eu acredito que o máximo que você pode atualizar o sistema é de 8GB com 4 DIMMs de 2GB. Embora existam postagens no fórum que afirmam que você pode ir até 16gb - Não é oficialmente suportado e, se não funcionar, você precisará atualizá-lo mesmo assim.
Olhando para a configuração de estoque, qualquer qualquer cartão midrange moderno funcionaria muito bem. Hot Hardware lançou um gforce 660 (que é sobre 4 gerações de idade) e teve uma grande melhoria no desempenho. Eu certamente não vejo o ponto em jogar em uma carta de high-end real, como um 1080 ou Titan em tal máquina. Pessoalmente eu iria para a parte inferior das placas de vídeo decentes, ou algo um pouco mais antigo, como a nvidia gforce 750 (que sai do barramento PCI - ou qualquer coisa que termine com 50) 660 supracitados.