Eu não acho que o FAT32 tenha um limite de arquivo específico para uma pasta, mas o número total de arquivos em um volume FAT32 está limitado a 268.173.300 com clusters de 32kb. Esse número diminui quanto menores os clusters, porque o sistema de arquivos só pode endereçar muitos clusters. Então, eventualmente, se você usar clusters muito pequenos, ficará sem clusters.
No entanto, um rápido google para sua mensagem de erro específica produz esta página; link que diz que o problema era ter muitos arquivos no diretório root do volume (ou seja, não em qualquer subpasta). Então você pode querer tentar remover alguns arquivos ou pastas da pasta raiz, se possível. Não tenho certeza se isso vai te ajudar.
Claro, a outra opção seria não usar o FAT32. exfat e NTFS são ambos adequados.