O número total de conexões é limitado principalmente pelo número de portas nas quais eles podem entrar e pela capacidade do sistema. Existem opções de configuração (Max_Sessions e Max_Startup), mas elas se aplicam apenas ao número de conexões de um único IP, e o número de conexões simultâneas de inicialização solicitadas ... Basicamente, elas são de proteção DDOS.
Não há uma maneira fácil de saber a quantidade de memória que uma conexão vai usar: depende totalmente da quantidade de tráfego. Uma conexão extremamente utilizada pode usar mais recursos do que 10.000 conexões que não estão fazendo nada.
Tudo o que foi dito, é quase sempre uma idéia melhor ter as conexões estabelecidas quando elas são necessárias e fechadas quando não são.