sudo apt-get install quota
Este link ou este link tem bons tutoriais sobre como configurar cota.
Eu tenho um servidor Ubuntu. Com um sistema de arquivos formatado ext3. Como posso limitar um determinado usuário a usar apenas X MB de espaço em disco?
Uma alternativa para necessidades de cota únicas que não depende do suporte de cota do kernel é criar uma imagem de disco e usar uma montagem de loopback para acessá-la. Este link mostra como fazer isso.