Sua placa-mãe usa o chipset nForce4, que tem um controlador de memória buildin limitado a 4 GB (em 4x 1GB, 2x 2GB também não funciona).
Então você está sem sorte, eu estou com medo.
Além disso: este é um hardware antigo. Seja qual for o upgrade que você vai lançar nele, não será muito mais rápido / melhor do que é agora. E é muito questionável se qualquer investimento nesta máquina valerá o dinheiro, dada a sua idade.