Você pode usar ulimit para fazer isso (não é um especialista, mas a página de manual geralmente é útil) ou editar o arquivo de configuração diretamente.
Crie um arquivo de limites em etc/security/limits.conf
, que deve permitir que você defina um limite de usuário assim:
username hard as some_number_in_kilobytes
A única parte que realmente precisa de explicação é "difícil". Os usuários podem definir seus próprios limites, mas, de acordo com o TFM, esses são limites "suaves" que só podem ser configurados para o limite máximo. Espero que seus usuários não possam fazer o sudo para root.