Use cgroups. Esta é a solução definitiva para o gerenciamento de recursos
Como posso reservar uma certa quantidade de memória para um conjunto de processos da interface do usuário (gerenciador de janelas, servidor x, terminal e shell) em execução no sistema? Estou cansado de ter que forçar uma reinicialização por causa de algum programa cheio de recursos consumindo toda a memória.
Use cgroups. Esta é a solução definitiva para o gerenciamento de recursos
Tags gui memory linux out-of-memory