Diga que seus servidores estão em 10.0.0.51 e 10.0.0.52. Você vai querer algo assim:
cache_peer 10.0.0.51 parent 80 0 no-query originserver sourcehash
cache_peer 10.0.0.52 parent 80 0 no-query originserver sourcehash
Ele fará um hash do endereço IP do cliente e direcionará um determinado cliente para o mesmo servidor upstream com cada solicitação (contanto que os servidores upstream permaneçam ativos) com base nisso.