Os clientes do Memcache sabem qual nó verificar, codificando o valor da chave. Por padrão, ele usa o valor crc32 da chave. No estilo antigo, você faria algo como
serverId = crc32(key) % servers.size
Isso significava que, quando você adicionava um novo nó de servidor, a maioria das coisas seria remapeada para um nó diferente.
Para o seu bônus, use o novo estilo onde cada nó cobre uma variação linear de valores de CRC determinados por um número de servidor selecionado aleatoriamente em vez de um valor de N-ésimo. Isso é chamado hashing consistente.