Uma opção pode ser ajustar o valor de /proc/<pid>/oom_score_adj para evitar que o oom killer mate o processo em caso de situação de pouca memória. Configurar o valor para -1000 impedirá que o kernel mate completamente o processo.
Qual seria uma boa alternativa para o método de prevenção de travamento de todo o sistema? De preferência, não com base nos limites máximos de alocação de memória (por terminal), mas o inverso: alguma maneira de reservar memória suficiente para processos de sistema (críticos) (alguns processos na lista de desbloqueio). Ou simplesmente (coloque) alguma maneira de bloquear a execução de novos processos quando o sistema atinge algum limite. Ou pelo menos algum aplicativo de monitoramento com notificações / avisos.
Uma opção pode ser ajustar o valor de /proc/<pid>/oom_score_adj para evitar que o oom killer mate o processo em caso de situação de pouca memória. Configurar o valor para -1000 impedirá que o kernel mate completamente o processo.