Por que você precisa ser root para colocar arquivos em ~ (por exemplo, via scp )?
Para os confusos, há sempre ssh-copy-id . Para instalar sua chave pública em sua máquina local, você faria
# ssh-copy-id [email protected]
Isto irá adivinhar automaticamente qual a sua chave a instalar. Para todo o resto, dê uma olhada na manpage.