Colete dados de tempo de resposta de seus aplicativos reais, faça o que fizer. Registre o tempo de resposta do usuário, os horários de início do processo e qualquer outra métrica de desempenho importante para você.
No Linux, os cgroups podem ter um limite de memória além do qual os processos dessa página de grupo são eliminados. Um serviço systemd pode definir tal limite com a diretiva MemoryLimit
, veja a página man ou Guia de gerenciamento de recursos do RHEL . Lembre-se de que as unidades systemd podem ser por usuário, o privilégio de raiz não é necessário.
Não gaste muito tempo tentando simular uma condição de pouca memória, é improvável que ela execute como a carga de trabalho da produção. Se você puder alterar o aplicativo para processos de início ou carregamento lento, faça isso no teste e depois na produção. E meça os resultados.