Acho que você está confundindo-o com as chaves do host.
As chaves do host são geradas na primeira inicialização. (Bem, ou quando o servidor ssh inicia pela primeira vez).
O diretório /root/.ssh
é criado quando você usa o ssh (o cliente) pela primeira vez. Ele armazena o arquivo known_hosts aqui (contendo as chaves públicas dos hosts nos quais você esteve conectado antes).
Pode-se usar ssh-keygen
para criar um par de chaves público / privado (é o nome /root/.ssh/id_rsa e /root/.ssh/id_rsa.pub por padrão).