Como você já mencionou o BGP, você é a resposta básica.
Vou tentar resumir isso, mas a resposta pode ser bem longa e complicada.
Os endereços IP são distribuídos pelo ARIN + algumas outras organizações internacionais similares que são encarregadas de distribuir e manter o controle do espaço de endereços IP.
Os roteadores de borda de um ISP (onde quer que estejam) informam que eles são o destino do espaço de endereço IP e também podem anunciar o melhor caminho para acessá-los.
Existem também vários algoritmos, configurações e etc que um engenheiro de rede pode usar para configurar um roteador para obter rotas específicas para chegar a um destino. Por exemplo, evitando uma portadora ruim conhecida ou cenários mais complicados.
Mas, novamente, o que você está procurando é o BGP e há muitas opções.