A prática comum é usar a mesma chave para servidores diferentes (de um dispositivo). Se a chave for comprometida, você precisará substituir a chave em todos os servidores.
O uso de várias chaves requer uma configuração mais complicada e geralmente não acrescenta muita segurança (quando algo é comprometido, geralmente é o seu computador com todas as chaves).
Também depende de ter ou não a frase secreta e a chave criptografada.