Execute os processos como um usuário dedicado e configure-o por meio de cgroups :
/etc/cgconfig.conf :
group limitedram {
memory {
memory.limit_in_bytes = 6442450944;
}
}
e /etc/cgrules.conf :
serviceuser memory limitedram/
Isso limita o uso de memória de serviceuser a 6 GB.