Você não precisa de nenhum sudo para isso. Supondo que você tenha sshd executando com passwordAuth no server2 para user1, faça o seguinte no server1:
mkdir ~/.ssh
chmod 700 ~/.ssh
ssh-keygen -t rsa -f ~/.ssh/id_rsa
ssh-copy-id -i ~/.ssh/id_rsa.pub user1@server2
Neste ponto, ~ / .ssh / authorized_keys é instalado no server2, e assumindo que pubkeyAuth esteja habilitado no server2, você pode tentar um ssh sem pwd:
ssh user1@server2 ls
agora, se você quiser reverter as coisas (permitir que o usuário1 do servidor2 faça o login no servidor1 com o pubKey), faça o seguinte no user1 no servidor2:
scp user1@server1:.ssh/id_rsa .ssh/id_rsa
chmod 600 .ssh/id_rsa
e no servidor1:
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
chmod 600 ~/.ssh/authorized_keys