Esse é um desses muitos desafios, que podem ser abordados de muitas maneiras diferentes. A abordagem mais simples é ignorá-lo e esperar pelo melhor. Enquanto o roteamento não mudar no meio da conexão, tudo ficará bem. Mas quando o roteamento muda, ele irá quebrar todas as conexões afetadas pela mudança de roteamento. As outras respostas já se aprofundam com essa abordagem.
Outra abordagem é rastrear para onde as conexões são roteadas. Se um pacote for roteado para o POP errado, o CDN pode encapsular o pacote para o POP correto para processamento adicional. Isso introduz uma sobrecarga adicional, o cliente experimentará um aumento de latência quando isso acontecer. Essa latência aumentada persistirá durante a vida útil da conexão. Mas é provável que seja melhor para a experiência do usuário do que uma conexão quebrada.
Em termos de consumo de largura de banda, a sobrecarga não é muito significativa, porque afeta apenas os pacotes em uma direção, e essa tende a ser a direção com o menor uso de largura de banda.
O rastreamento pode ser feito no nível da conexão ou rastreando qual é o POP preferido para servir cada endereço IP de cliente individual. A estrutura de dados mais óbvia para rastrear as conexões seria uma tabela de hash distribuída.
Se o cliente suportar MPTCP, existe outra solução que pode ser usada. Assim que a conexão for estabelecida, o servidor abrirá outro subfluxo usando um endereço IP unicast. Se esse subfluxo for estabelecido com sucesso, a conexão poderá sobreviver à mudança do roteamento do endereço anycast, simplesmente usando o endereço unicast para a vida útil restante da conexão.
Em princípio, todas as abordagens acima seriam as mesmas para IPv4 e IPv6. Mas, na prática, algumas soluções podem não funcionar tão bem no IPv4 devido à falta de endereços IP.
Por exemplo, a abordagem MPTCP exige que cada servidor tenha um endereço IP público para funcionar bem. Uma grande configuração de balanceamento de carga pode ter muitos servidores para atribuir um endereço IP público a cada um. Além disso, estabelecer o novo subfluxo não pode ser iniciado pelo servidor, se o cliente estiver por trás de um NAT, o que geralmente é o caso do IPv4. Isso significa que o servidor teria que enviar o endereço IP unicast como uma opção sobre o subfluxo inicial e permitir que o cliente inicie o subfluxo extra.
Eu não sei qual das abordagens acima foi usada por CDNs.