Você está no caminho certo e eu acho que você estava quase lá. Sim, você pode fazer exatamente o que você está querendo fazer. Apenas certifique-se de colocar a chave pública no host remoto no diretório correto. Você pode encontrar o diretório em /etc/ssh/sshd_config file
. Deve ser algo como isto:
AuthorizedKeysFile /etc/ssh/keys/authorized_keys.%u
Mais comumente, as chaves serão encontradas em ~/.ssh
. Há muitos ótimos tutoriais sobre como configurar logins sem senha. Este não é ruim. Este link é outro bom destinado a AIX e Linux.
Uma última coisa, é uma boa prática usar uma frase secreta ao gerar seu par de chaves.