É mais dependente da largura de banda e da latência (especialmente a latência) do que do número de arquivos e da escala nos algoritmos usados para enumerar o diretório. Não há "número mágico", eu acho, é o que estou dizendo.
O protocolo SMB é hediondo para exigir muitas e muitas viagens de ida e volta. Esse número de arquivos, com o dobro da latência, seria muitos vezes mais que o dobro, por exemplo.
Você fez o benchmarking por acidente para a sua LAN, a latência de sua infraestrutura de rede e a latência do subsistema de I / O do seu servidor. Você obviamente encontrou um "número mágico". Eu começaria esse diretório reduzido até que o desempenho melhore. Não há outro jeito!