1 possibilidade, Programas mal codificados podem não liberar memória quando necessário por outros processos, ou o programa tem um vazamento de memória.
Abra uma caixa de corrida e digite resmon, então vá para a aba de memória, veja o que está usando toda a memória.
Você também pode instalar e executar o RAMMap , ele oferece uma exibição melhor do que o resmon e tem muito mais informações para ajudar a resolver o problema.
Algumas informações sobre como usar o RAMMap
Verifique também o tamanho do seu arquivo de paginação.