Você não está informando qual protocolo está usando, por isso estou assumindo que estamos falando https.
Cada back-end provavelmente conhece algumas informações sobre si mesmo, o que identificaria exclusivamente esse back-end. Pode ser um nome de host ou um endereço IP unicast. O back-end pode incluir essas informações em locais apropriados. Você poderia incluí-lo em um rodapé em cada página. Ou, se você achar que isso é visível demais, inclua-o apenas em páginas que os usuários não visitariam em circunstâncias normais. Qualquer página de erro (404, 500, etc.) deve sempre incluir a identificação de back-end.
Se o seu balanceador de carga for apenas balanceamento de carga e não fizer mais nada, você estará encerrando https no backend e sempre que uma conexão TCP for fechada e o cliente for reconectado, existe a possibilidade de o cliente ser direcionado para um backend diferente.
O balanceador de carga pôde lembrar o back-end usado mais recentemente para todos os endereços IP do cliente vistos na última hora para reutilizar o mesmo back-end a maior parte do tempo. Quaisquer informações mais detalhadas, como cookies e ID de usuário, estariam fora do alcance do balanceador de carga. Por isso, não é possível usá-lo para manter um usuário no mesmo back-end.
Isso significa que qualquer identificação de qual back-end um usuário está usando deve ser tomada com muita cautela, já que o usuário poderia ter se movido entre os back-ends entre o momento em que ocorreu um problema e o momento em que descobriu qual backend estava usando. Mas ainda é uma informação valiosa, já que na maioria dos casos ajudará a localizar registros relevantes mais rapidamente.