Em IP público, tê-los na mesma rede ou não, ou consecutivos, não muda muito, a menos que você possua toda a "sub-parte" que você pode limitar com o CIDR. Se você permitir o roteamento de toda a sub-rede, terá máquinas externas roteadas pela sua rede. De qualquer forma, nunca é bom encaminhar publicamente os seus dados privados.
Para manter seus servidores conectados de maneira privada, dependendo do número de portas / serviços que você precisa acessar, você pode:
- veja se não há possibilidade de ter um gateway / roteador privado entre os servidores
- constrói túneis ssh para cada necessidade para que você possa usar para conectar, por exemplo, o mysql sendo executado no segundo servidor usando uma porta local no primeiro servidor e toda a conexão é criptografada pelo túnel
- construa uma VPN e seus servidores estarão trabalhando em um ambiente de LAN dentro da VPN
Existem provavelmente outros métodos, mas estes são os que mais me interessam e são seguros, simples e fáceis de aplicar.