(isso deve ser um comentário, mas é um pouco longo)
We have a Apache forward proxy sending requests to thousands of back end servers.
E você acabou de perceber que não está funcionando?
Se você consegue lidar com o tráfego de "milhares de servidores" em uma única instância do Apache, ele sugere algo errado com sua arquitetura.
Você não pode confiar em todos os componentes da cadeia (ou seja, não apenas em seu proxy), implementando keep-alive na forma como os servidores de back-end parecem estar esperando. Então, o que você está tentando aqui é, na melhor das hipóteses, mitigar um problema.
Recomendamos enfaticamente que você corrija a causa raiz aqui.
So we would like the forward proxy to use the same connection, possibly via connection pooling?
Não. O pool de conexões mantém um conjunto de conexões abertas para o servidor de origem. Não vincula a conexão do lado do cliente com a conexão do servidor de origem.
Sem saber muito mais sobre o que está acontecendo no servidor proxy, é difícil indicar qual é a abordagem correta para essa solução alternativa; enquanto o Apache faz um servidor fabuloso, IMHO, existem melhores ferramentas para usar como proxies (ATS, haproxy, libra, squid, nginx, verniz.
Do meu conhecimento do Apache httpd, não acho que é possível fazer o que você está tentando alcançar.