Primeiro, por favor tente logar como root over ssh com -vv por exemplo:
ssh root@my_server_id -vv
Acho que lhe dirá o que exatamente está errado com suas permissões. Provavelmente suas permissões para o diretório .ssh são muito grandes e o ssh não gosta disso:)
Eu acho que seu diretório /root/.ssh deve ter permissões definidas para 700
chmod 700 /root/.ssh
e o arquivo .ssh / authorized_keys deve ser definido para 600
chmod 600 /root/.ssh/authorized_keys