Concordo com link . Você pode fazer qualquer um, mas cada um tem seus prós e contras.
Eu preferiria criar uma nova chave privada SSH para cada máquina confiável. Dessa forma, se uma estiver comprometida, somente a chave dessa máquina precisará ser substituída. Copiar chaves privadas também pode aumentar as chances de alguém ter acesso a elas. Basicamente, ele se torna um único ponto de falha. Há uma razão pela qual sites como o BitBucket recomendam que seus usuários substituam seus usuários. Chaves SSH todos os anos.