Você está executando um software que requer 4 GB de memória. No entanto, você está executando uma versão de 32 bits do Windows 7 e, portanto, não permite o acesso do software a 4 GB de memória.
Execute-o em um computador que atenda aos requisitos mínimos. Se o seu computador tiver memória suficiente, a versão de 64 bits do Windows 7 poderá ser suficiente.
Isto, claro, assume que você está correto que a memória é o problema. Pode ser simplesmente que o software tenha um bug que o faz congelar, e você precisa levá-lo aos desenvolvedores de software. Não é possível dizer, dadas as informações que você forneceu.