Os ícones de encaixe diminuem à medida que você minimiza mais aplicativos. A altura do encaixe continua a mesma, mas esses ícones internos encolherão para se ajustarem a todas as janelas minimizadas.
Eu não acredito que haja um limite para o número de janelas que você pode ter. Eu apenas minimizei 35 janelas de safári e não tive problemas.
Para o registro - eu abri 35 janelas apenas para este problema. Eu normalmente não tenho tantas janelas abertas:)