A boa prática diz que você não deve copiar chaves privadas de uma máquina para outra. Quando você precisar de acesso de uma nova máquina cliente, crie uma nova chave nessa máquina, e configure a chave pública correspondente no seu arquivo ~/.ssh/authorized_keys no servidor.
Isso permite que você desative o acesso de uma máquina cliente de cada vez, se precisar (suponha que um laptop tenha sido roubado, por exemplo).