Você pode gerenciar essas identidades com ~/.ssh/config
. Por exemplo:
Host acc1-server
User ACCOUNT1
Hostname SERVER
IdentityFile ~/.ssh/id-ACC1-SRV
Host acc2-server
User ACCOUNT2
Hostname SERVER
IdentityFile ~/.ssh/id-ACC2-SRV
Depois, basta digitar ssh acc1-server
para se conectar a SERVER
como ACCOUNT1
com a chave ~/.ssh/id_rsa-ACC1-SRV
ou ssh acc2-server
para se conectar a SERVER
como ACCOUNT2
com a chave ~/.ssh/id_rsa-ACC2-SRV
; -)