Use subdiretórios, como:
/thumbnails/001/001/large.jpg
/thumbnails/999/999/large.jpg
e assim por diante. Crie quantos subdiretórios você achar necessários para o identificador único de sua imagem, por exemplo:
/thumbnails/999/999/999/999large.jpg
Você pode precisar estar ciente dos limites de inode em seu sistema de arquivos.