Quando você cria uma chave privada, ela também cria uma chave pública correspondente.
A idéia por trás do par de chaves privada / pública é que você mantenha sua chave privada segura (não a envie pela rede, pela Internet ou até mesmo permita que outros usuários a leiam).
A chave pública é o que você armazena no servidor ao qual deseja se conectar.
Então, quando você se conecta a um servidor via ssh, você fornece sua chave privada e um usuário no servidor para efetuar login como: ssh -i ~/.ssh/path/to/your/private/key user@server
No servidor você armazena suas chaves públicas, aqui: /home/user/.ssh/authorized_keys
Você pode copiar o conteúdo do arquivo authorized_keys dos servidores para outro servidor, é apenas um arquivo com texto (cada linha corresponde a uma chave pública).