Você fez duas perguntas.
1) Se o OOM Killer for executado + você não tem troca, provavelmente isso está relacionado à sua configuração vm.swappiness. Tente definir isso como 1. No seu kernel antiquado + altamente hackable (shudder), definir como 0 (se bem me lembro) desativa a troca completamente, o que provavelmente não é o que você procura.
2) Determinar o seu programa de vazamento pode ser tão fácil quanto executar o ps auxww repetidamente, procurando constantemente aumentar os valores de RSS ou alguma outra métrica.
Tudo isso dito ...
Seu Kernel é muito antigo. PHP é limitado em 5,3 (altamente hackable). O OpenSSL está com bugs. Muitas bibliotecas relacionadas são antigas + podem ser a fonte de vazamentos de memória.
Provavelmente é melhor atualizar para uma distro recente. Uma atualização simples pode instalar um código mais recente com o seu vazamento de memória.