O problema é que, enquanto a memória está disponível, o Windows 7 já prometeu para os aplicativos. A solução é certificar-se de que você tenha um arquivo de paginação grande o suficiente. Isso permite que o Windows continue a assumir compromissos sem medo de que, caso todos os compromissos sejam solicitados de uma vez, não haverá memória física suficiente para atendê-los.
Expliquei esse fenômeno com mais detalhes aqui . Você pode ter bastante memória livre, mas o Windows ainda pode ser incapaz de alocar mais, porque essa memória livre já é prometida para aplicativos que provavelmente nunca a usarão.