O sistema operacional não limita explicitamente a criação de encadeamentos. É essencialmente controlado por restrições de recursos. Se o SO tiver os recursos, o processo pode criar quantos encadeamentos desejar até que não haja mais recursos.
Algumas versões do Windows 7 (32 ou 64 bits) gerenciam o número de threads que qualquer processo específico está criando? Em caso afirmativo, existe uma maneira de configurar um limite máximo de encadeamentos no sistema (no registro, por exemplo)?
Sim, você (mais ou menos) pode. Com processadores multi-processador, você pode definir o número de núcleos usados por um programa. Por exemplo, uma CPU I8 com 8 núcleos, você pode limitar o seu computador para usar um máximo de apenas 7 núcleos (ou 6,5,4 ..). Execute o gerenciador de tarefas (ctrl-alt-del), vá para Processos e selecione o programa. Clique com o botão direito do mouse no nome do programa e selecione "definir afinidade". Uma janela será aberta mostrando os núcleos disponíveis para o programa e aqui você pode remover ou adicionar núcleos posteriores para o seu programa usar.