Provavelmente, o que está faltando é na máquina remota:
cd $HOME/.ssh; cat client_host_ssh2_id_rsa.pub >> authorized_keys
Se isso não for suficiente, então pare o daemon sshd e reinicie-o da seguinte forma:
/usr/sbin/sshd -Dd
que impede a daemonização e imprime a mensagem de erro na saída padrão. Ao tentar efetuar o login, você poderá ver as mensagens de erro no servidor, que são muito mais informativas do que as do lado do cliente, por motivos óbvios de segurança. Isso ajudará você / nós a depurar o problema.