Eu não acho que o PAE poderia te machucar, mas com essa quantidade de memória, por que não passar para um sistema de 64 bits.
link
Você pode ler mais sobre o vmstat aqui: link (e parte 2)
Por que não sar para esse tipo de investigação?
Temos alguns servidores com 20-30 GB de RAM em execução (uma variante de) RHEL4. Eles estão atualmente executando o kernel SMP i386, não o x64, nem mesmo o kernel hugemem. Isso significa que LowMem está confinado a < 1G e, assim, dentry_cache e ext3_inode_cache para 100M ou mais. Como posso saber se isso é um problema?
Aqui está um relatório típico do vmstat enquanto ele está compilando algum Java:
$ vmstat 10
procs -----------memory---------- ---swap-- -----io---- --system-- ----cpu----
r b swpd free buff cache si so bi bo in cs us sy id wa
1 1 0 19493816 394740 922420 0 0 1058 2292 1491 1020 6 3 80 12
2 1 0 19519480 395244 850156 0 0 1179 1412 1329 1195 9 4 75 12
1 1 0 19557368 392616 828344 0 0 1783 1680 1498 1756 14 5 72 9
Eu não gosto da maneira como bi é diferente de zero quando há muita memória livre. Eu imagino slabtop poderia apontar mais diretamente para o problema, mas eu realmente não entendo como interpretar sua saída.
Atualização: A pergunta óbvia é "por que não mudar para x64", o Google ainda tem muitos acessos em "kernel de 64 bits". Mas o objetivo principal dessas máquinas é construir software de 32 bits e não sei como garantir que isso não será afetado pela troca de kernels.