Eu acho que você está fazendo a pergunta errada. O SSH se recusar a usar um arquivo de chaves é um sintoma de permissões incorretas no usuário ~/.ssh/ ; deve ser 0700 e o conteúdo deve ser 0600 para chaves privadas.
Dito isso, o OpenSSH aceitará qualquer chave no arquivo ~/.ssh/authorized_keys - simplesmente cat my_other_key.pub >> ~/.ssh/authorized_keys ou, se você tiver disponível, ssh-copy-id simplificará isso, além de definir as permissões corretamente.