Primeiro, você precisa entender que o uso de RAM está relacionado, mas não é o mesmo que uso de memória. Consulte minha resposta a essa pergunta para uma explicação de como a memória funciona no Windows. Dito isto, o contador que mede o carneiro físico em uso (pico de carga de comissionamento) é \ Memória \ Bytes Comprometidos. Você deve ver as falhas de página muito antes de o sistema realmente usar todo o RAM físico, assim também verifique se há falhas de página.
Antes de começar a trabalhar em problemas de ram, você deve assistir a este webcast sobre como solucionar problemas de memória em janelas . Veja também Empurrando os limites do Windows: Memória Física