Você tem que adicionar a linha ulimit no script init do squid, assim como aumentar max_filedescriptors no squid.conf. Esses são os dois passos essenciais. Você não precisa mais compilar o squid da fonte para aumentar esse limite. Isso era algo que você tinha que fazer com versões muito antigas do squid.