Depende do seu sistema de arquivos. Eu vou assumir que é ext4:
O número máximo de arquivos é global, não por diretório, e é determinado pelo número de inodes alocados quando o sistema de arquivos foi criado. Tente executar o seguinte comando para ver o número de inodes por sistema de arquivos.
$ df -i
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sdb2 7864320 388119 7476201 5% /
O número máximo de subdiretórios parece ser de 64000, de acordo com aqui ( link ), mas veja também ( link ) - sugere que é ilimitado.