Chave privada do usuário local na máquina local (usuário1). Chave pública de user2 @ remotehost
Editar para mais informações - você também pode especificar qual arquivo de identidade usar ao fazer a conexão -
ssh -i /path/to/private/key user2@remotehost
Neste caso, qualquer usuário que você esteja em sua máquina local deve ser capaz de ler / acessar a chave privada que você está referenciando.