Minha suspeita é que você está enfrentando muitas falhas na página, mesmo que esteja vendo RAM "livre".
Os contadores padrão representados graficamente quando você inicia o "Monitor de Desempenho" no Windows Server 2003 são alguns bons contadores para obter uma visão de base do que pode estar acontecendo:
- Objeto: memória, contador: páginas / s
- Objeto: PhysicalDisk, contador: média Comprimento da fila de disco
- Objeto: processador, contador:% de tempo do processador
Esses contadores lhe darão uma visão realmente grosseira do que está acontecendo com a máquina e onde você pode estar vendo um gargalo (CPU, RAM, disco IO). Eu consideraria remover o contador "Comprimento médio da fila de disco" adicionado por padrão e adicionar contadores para "Comprimento médio da fila de disco" para cada disco físico na máquina. Se você estiver paginando muito, poderá ver uma longa fila de discos (acima de 2) no disco que hospeda o arquivo de paginação.
Você realmente deseja ver se está tendo um número significativo de falhas de página rígida (ou seja, falhas de página que precisam ir para o disco) ou não. Observe o contador "Páginas de entrada / seg." No objeto "Memória" para ter uma ideia de quantas falhas de página está ocorrendo.
Ocorrem falhas de página rígida quando a página de memória necessária para atender à solicitação deve ser lida do disco. A "correção" para falhas de página difícil é adicionar RAM física.
Falhas de página soft ocorrem quando um aplicativo grava primeiro em uma nova página (copy on write), solicita que uma página seja zerada ou acessa uma página que já está em outro lugar na memória (como um arquivo mapeado em memória sendo usado por outro processo). Você provavelmente não pode fazer muito para "consertá-lo" se estiver vendo muitas falhas de página, mas também não deve estar muito preocupado com elas.
Se você estiver com muitas falhas de página, adicione RAM à caixa.