Considerando as evidências dadas acima, as duas coisas mais prováveis a serem consideradas são:
Limitação de hardware
Com um sistema operacional de 32 bits, você tem 4 GB de espaço de endereço. Quaisquer periféricos com E / S de memória mapeada (portas IO, placas de rede, placas gráficas, outra placa-mãe ou placas adicionais) ocuparão uma parte (geralmente bastante pequena) desse espaço de endereço. Qualquer memória usada para E / S de memória não pode ser usada para a memória principal.
Os piores porcos de mapeamento de memória são placas gráficas. Se você tiver duas placas gráficas, cada uma com 1 GB ou memória, 2 GB do seu espaço de endereçamento serão usados, deixando apenas 2 GB de memória principal, independentemente da quantidade de memória física instalada.
Isso não é um problema em uma máquina com sistema operacional de 64 bits, pois esses 2 GB podem ser mapeados longe da memória principal, mas em um sistema operacional de 32 bits, você está limitado a 4 GB no total (sem usar truques que a Microsoft desativou em seu sistema operacional de 32 bits sem servidor).
Limitação Artificial
A outra opção é que alguns hardwares ou softwares estabelecem uma restrição na quantidade de memória disponível para o Windows quando ele está instalado e que o limite artificial ainda está em vigor, mesmo depois de instalar mais memória.
Eu nunca fiz isso no Vista, mas no XP você executaria o msconfig e olharia as "Opções Avançadas" na aba "BOOT.INI". Se o "/ MAXMEM" foi definido, o XP estava ignorando toda a memória acima disso.
Pesquisando na Web, parece que você usa bcdedit em Vista. Uma boa descrição de como usá-lo pode ser encontrada aqui . No entanto, como sempre, certifique-se de entender o que está fazendo antes de mexer nessas coisas.
Outras possibilidades, específicas para sistemas de servidor / estação de trabalho
Olhando pelo manual do X6DAL-XG, pergunto-me se o "Espelhamento de Memória" e Sparing "está ativado no BIOS:
Select Enabled to enable Memory RAS (-Mirroring and Sparing) to allow the
system to create a mirror copy of data written to the memory for data
security. The options are Disabled and Enabled.
Eu diria que no modo de espelhamento de memória, apenas 4 bancos são usados, o que explicaria porque remover os 512MB Dimms não fazia diferença para a memória visível para o Windows.