Basicamente, você tem VIPs voltados para frente e para trás. Como exemplo,
Dois servidores Web x.x.x.1 & x.x.x.2 tem um VIP de x.x.x.3 voltado para o cliente, este último é aquele para o qual os registros DNS apontam e é gerenciado pelos próprios servidores ou por outro balanceador de carga, dependendo do sistema operacional / implementação.
Eles também têm um VIP na parte traseira / interna de, digamos, y.y.y.1 que balanceamento de carga para seus IPs internos y.y.y.1 & y.y.y.2. Os servidores da web falam 'para baixo' para a camada interna VIP (z.z.z.3) através dessas duas últimas interfaces, mas são falados 'up' pelos servidores internos neste VIP do y.y.y.3.
Os servidores internos podem ser z.z.z.1 & z.z.z.2 com um VIP de z.z.z.3 voltado para cima / voltado para a Web e embora cada um fale com os servidores da web por meio do VIP y.y.y.3 e seja falado por esses servidores no VIP z.z.z.3.
É claro que você pode adicionar uma quarta / quinta camada abaixo disso para permitir que seus servidores internos falem com servidores DB que podem ter seus próprios VIPs.
De qualquer forma, você está usando balanceamento de carga / VIPs para permitir cenários de falha conforme discutimos para lidar com eles.