De acordo com o seu comentário "A idéia é reduzir a memória disponível para qualquer aplicativo em geral e ver como ele se comporta."
Sugiro que você use uma máquina virtual para poder executar o aplicativo nesse ambiente e controlar facilmente o recurso que ele possui.