Deixe-me tentar explicar isso com um exemplo. Suponha que eu confie em você e queira que você faça SSH no meu computador e faça alguma coisa. Eu posso te dizer minha senha ou você pode me dar sua chave pública.
Se você me der sua chave pública, quando tentar entrar no meu computador, seu cliente SSH usará sua chave privada para gerar a solicitação de autenticação criptografada e enviá-la para o meu computador. Meu computador usará sua chave pública para descriptografar a solicitação de autenticação criptografada e, assim, autenticar que é você e não outra pessoa tentando invadir meu computador.
Observação: o par de chaves público-privado não é usado para criptografar a transmissão entre dois computadores. Portanto, assim que a conexão for estabelecida, as chaves não serão necessárias até que a conexão seja finalizada e uma nova conexão seja tentada. O SSH tem seu próprio sistema interno de criptografia de dados que não depende do par de chaves público-privadas.
Então, aceitando sua chave pública, confiei em você para entrar no meu computador. Se você quebrar minha confiança, deletarei sua chave pública do meu computador. Então você não poderá mais usar o SSH no meu computador.
Se você der sua chave privada a outra pessoa (ou se alguém a roubar), essa pessoa poderá fingir ser você. Se eu descobrir que você deu sua chave privada a outra pessoa, eu apagarei sua chave pública do meu computador. Então nem você nem a outra pessoa poderão usar o SSH no meu computador.
A chave pública que você me deu é inútil se eu tentar o SSH no seu computador, já que isso é bom apenas para descriptografar as informações geradas com a sua chave privada. Se você quiser que eu conecte o SSH ao seu computador, você terá que colocar minha chave pública no lugar certo em seu computador.
O Ubuntu armazena suas chaves privadas no software de gerenciamento de senhas, chamado Senha e Chaves de Criptografia:
Note que o separador do meio As minhas chaves pessoais . Isso para proteger sua chave privada de ser roubada (e acidentalmente excluir sua chave privada).
Aqui estão mais informações sobre o Seahorse gerenciador de senhas.
Espero que isso ajude