Envolve mais do que apenas o registro. Os locais são descritos neste artigo do MSDN: link . O blob que você vê no registro em "chaves" é um blob de metadados, não a chave real. A chave atual é armazenada criptografada no sistema de arquivos no perfil Todos os usuários.
Todos os usuários \ Dados de aplicativos \ Microsoft \ Crypto \ RSA \ MachineKeys
O artigo do MSDN lista onde as chaves são armazenadas para vários proprietários de chaves.