Você pode gerenciar essas identidades com ~/.ssh/config . Por exemplo:
Host acc1-server
User ACCOUNT1
Hostname SERVER
IdentityFile ~/.ssh/id-ACC1-SRV
Host acc2-server
User ACCOUNT2
Hostname SERVER
IdentityFile ~/.ssh/id-ACC2-SRV
Depois, basta digitar ssh acc1-server para se conectar a SERVER como ACCOUNT1 com a chave ~/.ssh/id_rsa-ACC1-SRV ou ssh acc2-server para se conectar a SERVER como ACCOUNT2 com a chave ~/.ssh/id_rsa-ACC2-SRV ; -)