você pode limitar o uso de memória de um usuário (o usuário que executa os processos php-cgi) com cgroups.
por exemplo, para limitar o uso de memória de um usuário, você pode fazer o seguinte:
# file: /etc/cgconfig.conf
group php {
memory {
memory.limit_in_bytes = "2G";
}
}
E então você tem que adicionar seu usuário php-cgi a este cgroup-group:
# file: /etc/cgrules.conf
phpcgiuser memory php
Se você quiser limitar o uso de memória por processo, você pode fazer isso com ulimit (100 MB por processo).
# file: /etc/security/limits.conf
phpcgiuser hard as 102400
Editar: No entanto, você deve analisar o software o que está causando o vazamento de memória.