Acredito que o Indesign CS4 é um aplicativo de 32 bits, portanto, embora o sistema tenha muita RAM, o InDesign não pode usar mais do que cerca de 3,5 GB. Provavelmente, você está vendo um pequeno vazamento de memória que está fazendo com que o InDesign use toda a RAM que ele pode ver, e isso está causando o erro de falta de memória.
Eu sei que algumas partes do Creative Suite instalam versões de 64 e 32 bits (o PhotoShop fez isso em várias versões) Mas não tenho certeza se o InDesign do CS6 faz isso ou não.