Se você puder se conectar de um servidor para outro, os sistemas conhecerão cada chave ssh. Se você puder efetuar login do serverA para o serverB sem senha como root do usuário, então, consulte /root/.ssh/authorized_keys* no serverB. Haverá uma entrada para o serverA. No mesmo diretório, /root/.ssh/, você encontrará as chaves privadas para acessar os outros dois servidores.