Foi um problema de firmware da BIOS, enquanto a placa-mãe suportava 8GB de RAM, o firmware da placa-mãe (Dell) não.
Depois de atualizar isso, funcionou - para quem lê um Dell Inspiron 530, com uma placa-mãe foxconn g33m, eu tive que usar a ferramenta HPUSBDISK para criar um DOS para fazer o BIOS, já que recebi erros de memória quando usei Rufus