Você não pode bater HAProxy para simplicidade e velocidade. Se você precisar de armazenamento em cache, tente adicionar o verniz à mistura.
Estou procurando um bom software de balanceamento de carga (ou proxy reverso) para TCP e HTTP, alguma sugestão?
squid é um excelente proxy reverso - usado principalmente para cache, mas, como o artigo que apontei explica, também é bom para balanceamento de carga. No entanto, o serverfault.com provavelmente lhe dará melhores respostas nesta questão, já que não tem nada a ver com programação!