Você deve nunca salvar o arquivo com seu conteúdo começando com -----BEGIN RSA PRIVATE KEY----- no servidor, ou seja, sua chave privada . Em vez disso, você deve colocar a chave pública no arquivo ~/.ssh/authorized_keys .
Essa chave pública tem a extensão .pub quando gerada usando ssh-keygen e seu conteúdo começa com ssh-rsa AAAAB3 . (O formato binário é descrito nas respostas a esta questão ).
As permissões de ~/.ssh no servidor devem ser 700. O arquivo ~/.ssh/authorized_keys (no servidor) deve ter um modo de 600. As permissões da chave (privada) no lado do cliente devem ser 600.
Se a chave privada não foi protegida com uma senha e você a colocou no servidor, recomendo que você gere uma nova:
ssh-keygen -t rsa
Você pode ignorar isso se tiver certeza absoluta de que ninguém pode recuperar a chave privada excluída do servidor.
Se isso não ajudar, execute ssh com opções para mais verbosidade:
ssh -vvv [email protected]
No lado do servidor, você pode analisar /var/log/auth.log para detalhes.