Você pode instalar mais RAM, contanto que tenha quatro slots agora (algumas placas-mãe só têm duas, principalmente em laptops). Note que você vai querer ter certeza de que você insere a memória RAM para que ela irá funcionar corretamente. Os dois 512 bastões (eu suponho) lá dentro agora devem estar nos lugares corretos para o banco uns com os outros, então basta colocar os dois novos bastões nos outros dois slots (pode estar ao lado do outro ou pode alternar). Contanto que a RAM esteja nos slots corretos, eles serão de canal duplo (DDR2 bancos para conjuntos de dois, então os conjuntos de dois precisam coincidir).
Se você tiver apenas dois slots, então simplesmente retire a RAM existente e substitua-a completamente.
Você precisa ter certeza de obter o tipo certo de RAM. A RAM precisa ser a geração correta (DDR, DDR2, DDR3) e tão rápida quanto ou mais rápida que sua RAM atual para evitar uma perda de desempenho. É provavelmente DDR2, procure por um número de velocidade que se parece com "DDR2 666" ou similar. Você precisará do DDR2 com o mesmo número de velocidade ou maior.
Nenhuma configuração será necessária, ela funcionará muito bem fora da caixa. Talvez você queira procurar na BIOS para confirmar se a nova contagem de RAM está correta, para ter certeza de que ela está instalada corretamente e com mais rapidez do que o tempo que leva para inicializar o sistema operacional.