AFAIK, quando você se registra em um site com uma chave pública, precisa usar as teclas same se quiser a identidade mesma em um computador diferente. Quando você cria uma nova chave ssh com o mesmo ID de usuário, ela é diferente da que você criou anteriormente, porque usa dados aleatórios para criar um par de chaves.
Se você tiver a pasta .ssh do primeiro computador que você criou e registrou as chaves, simplesmente copie-a para a segunda máquina e ela deverá funcionar bem. Depois de ter essa pasta, você pode fornecer a mesma senha e deve estar autenticado.