Não sei qual sistema operacional você está usando, mas sou capaz de usar várias chaves usando um SSH Key Agent. Estou executando o Windows e usando pageant. Eu provavelmente começaria com o link . Tenho certeza que você pode obter um agente em execução para o seu sistema operacional.
Espero que isso ajude.