Tivemos um cliente em que passamos um bom tempo circulando por aí relacionado a isso. Eles originalmente foram hospedados em Nova York, e sua equipe está localizada principalmente na área de Boston. Eles estavam movendo seus servidores para nossas instalações localizadas em Denver, cerca de dois terços do caminho em todo o país.
Uma vez que eles se mudaram, eles começaram a trazer problemas de desempenho a partir dos links da Comcast em escritórios domésticos. Eles costumavam ter uma latência de 10 ms e chegavam a 80 ms. Eles notaram um desempenho mais lento atingindo seus sites, mas disseram que "talvez nós tenhamos que aturar desde velocidades incrivelmente rápidas até velocidades mortais". Eles pareciam perceber que havia limitações por causa da geografia e que seus usuários na costa oeste estariam potencialmente obtendo melhor desempenho.
Nós fomos e voltamos algumas vezes. Após cerca de 6 meses, mudamos para um ISP primário diferente, por razões não relacionadas a esse cliente (melhor preço, mais largura de banda, insatisfeito com o número de janelas de manutenção no outro provedor) e com o novo provedor estávamos ficando em torno de 45ms latência média para este cliente. Neste ponto, suas preocupações com o desempenho parecem ter desaparecido.
Só para lhe dar alguma experiência sobre um caso em que esse tipo de problema foi visto e os números relacionados a ele.
Tente usar "mtr" para mostrar informações sobre a latência e a perda de pacotes para as diferentes extremidades remotas. A menos que você entenda completamente o roteamento "caminho lento", ignore tudo, exceto o último salto listado nessa saída. Van Jacobson diz que os humanos percebem a latência a partir de 400 ms, mas percebem que muitas conexões exigem múltiplas trocas de ida e volta, de modo que uma latência de 100 ms pode rapidamente aumentar em até um segundo ...
Da minha experiência, a latência de 250 ms começa a parecer uma conexão visivelmente lenta. 10ms ou melhor parece uma conexão em chamas. Isso realmente depende do que você está fazendo.
Sean