Mesma pergunta feita e respondida aqui:
basicamente, crie um sistema de arquivos virtual preenchendo um arquivo com zeros no tamanho desejado, crie um sistema de arquivos nesse arquivo e, em seguida, monte-o no diretório que deseja limitar.
Artigo do Linux Quartly sobre isso aqui: link
Tutorial aqui: link