De uma pesquisa rápida no google, você parece precisar de ulimit . Veja mais sobre isso através de man limits.conf .
A melhor maneira de limitar recursos é através de VMs (XEN / KVM / OpenVZ), mas não acho que seja o que você pediu.
Eu tenho um cluster de computação de 44 núcleos e 256GB de memória rodando Ubuntu e gostaria de limitar o número de CPUs e memória usada por certos usuários. Limitar o uso da memória seria mais importante. Por exemplo, eu gostaria de dizer que o usuário X deve ser capaz de usar apenas 10 CPUs e 50 GB de memória.
Como posso conseguir isso?
Tags cpu cpu-usage shared-memory