Desde o primeiro glanse, seu problema é óbvio:
1) Está faltando uma chave privada RSA (ou DSA). Geralmente é chamado id_rsa. Para gerar um par de chaves, use ssh-keygen. Uma pharaphrase pode estar vazia se você quiser fazer login sem entrar a cada vez.
2) No host remoto, você deve usar uma chave RSA / DSA pública gratuita, colocada na pasta ~ / .ssh. Normalmente é chamado id_rsa.pub. Você pode usar a ferramenta ssh-copy-id.
Em alguns casos raros, se o servidor foi configurado especificamente, você pode precisar verificar as permissões de pastas $ HOME e .ssh e arquivos localizados lá. Mas, IMHO, é uma outra história.
Atenciosamente, Vitaly