"Como cada um funciona?"
Por mais que se possa dizer, suponho que você possa dizer que um balanceador de carga de hardware tem tanto processamento de tráfego quanto outras operações gravadas no silício, conforme for viável. Um balanceador de carga de software executa todas as operações no tráfego em, er, software. Isso significa que geralmente é mais lento e requer mais recursos para executar uma unidade de trabalho.
Balanceadores de carga de pseudo-hardware podem usar uma pilha de software de código aberto, como os de loadbalancer.org - estes são apenas servidores de commodity rebatidos com um interface web personalizada para fácil gerenciamento.
Balanceadores de hardware verdadeiros, como F5 BIG-IP têm recursos além dos produtos baseados em código aberto - com um preço pelo menos dez vezes maior do que de loadbalancers pseudo-hardware. No entanto, você também terá opções avançadas para processamento de tráfego, excelentes registros e outros recursos interessantes. F5 até tem uma linguagem (iRules) que você pode usar para inspecionar cada transação e tomar decisões baseadas em conteúdo, o que é muito legal.
Eu não usei PerlBal, mas acredito que se você estiver usando um servidor Linux padrão nessa função, você poderia fazer muito pior do que usar LVS .
Pergunta semelhante aqui .