Gere um novo conjunto de chaves com isso no cliente:
ssh-keygen
Pegue o conteúdo da chave pública do cliente:
~/.ssh/id_rsa.pub
E anexe-os ao arquivo de chaves autorizadas no servidor:
~/.ssh/authorized_keys
As permissões devem ficar assim no servidor:
-rw------- 1 user1 user1 399 Apr 20 09:04 authorized_keys
drwx------ 2 user1 user1 4096 Apr 20 09:04 .ssh