Se você está falando sobre a chave privada que você usa para autenticar no seu servidor, então não é verdade. Essa chave precisa ser verdadeiramente privada, nunca deixar sua máquina e definitivamente criptografada com uma senha. Se você precisar implantar o software de seu servidor, gere um par de chaves separado para essa finalidade, que restringiu severamente os privilégios nos sistemas de onde está implantando.