Isso não é possível, seja com ulimit ou de outra forma. Um arquivo pode ter links em vários diretórios. Se um arquivo tiver links em /dir1 e /dir2 e os dois diretórios tiverem limites diferentes, você terá restrições conflitantes. Por essa razão, qualquer tipo de mecanismo limitador só pode atuar em inodes, não em caminhos.