Verifique seu / var / log / secure ou / var / log / auth no servidor Linux para saber por que a chave não é aceita.
Além disso, o diretório .ssh está no homedir (e pertence a) do usuário que você está usando para se conectar?
Se você deseja se conectar com o usuário root, ele pode estar desabilitado em / etc / ssh / sshd_config.